InnoDB - E / S d'écriture de disque élevées sur le fichier ibdata1 et ib_logfile0

8

Spécification du serveur: VPS avec les informations suivantes

model name  : Intel(R) Xeon(R) CPU           E5649  @ 2.53GHz
MemTotal:      2058776 kB
MemFree:        244436 kB

Nous utilisons IP.Board d'Invision Power Services, nous utilisons innodb_file_per_tableet avons rechargé la base de données pour réduire la taille ibdata1. Cependant, nous avons encore eu récemment un problème d'utilisation élevée du processeur et des E / S malgré la ibdata1taille réduite .

De mon inspection, je crois qu'il cause par une forte utilisation d'E / S sur ibdata1. Vous trouverez ci-dessous les données que j'ai obtenues en utilisant pt-ioprofile -cell sizes(dans Percona ToolKit). Fondamentalement, c'est la quantité totale d'E / S collectées au cours de la période de 30 secondes.

# pt-ioprofile -cell sizes
Fri Jul 20 10:22:23 ICT 2012
Tracing process ID 8581
     total      pread       read     pwrite      fsync       open      close   getdents      lseek      fcntl filename
   6995968          0          0    6995968          0          0          0          0          0          0 /db/mysql/ibdata1
   1019904          0          0    1019904          0          0          0          0          0          0 /db/mysql/ib_logfile0
    204800     204800          0          0          0          0          0          0          0          0 /db/mysql/admin_phpbb3forum/phpbb_posts.ibd
     49152      49152          0          0          0          0          0          0          0          0 /db/mysql/admin_ips/ips_reputation_cache.ibd
     32768      32768          0          0          0          0          0          0          0          0 /db/mysql/admin_ips/ips_reputation_totals.ibd
     29808          0          0          0          0          0          0      29808          0          0 /db/mysql/admin_ips/
... (other trivial I/O records truncated)

Courir iotopet je vois DISK WRITE:monter et descendre 2M/set200K/s

Ma question est, pourquoi nous avons haute écriture d'E / S sur ibdata1et ib_logfileXpendant que nous avons seulement 5-10 petite mise à jour par seconde dans nos tables de sessions, qui sont aussi la MEMORYtable (uniquement sur 300K taille)? Cela me laisse perplexe car il n'y a pas non plus d'E / S d'écriture équivalentes sur un autre fichier de table, ce qui indique que les E / S d'écriture ne sont pas causées par UPDATE/INSERT/DELETE.

Notez que je ne suis qu'un programmeur qui, par hasard, a le devoir de maintenir cela, alors n'hésitez pas à demander plus d'informations. J'ai fait beaucoup de choses sur ce serveur, mais ne supposez pas que j'ai déjà fait quelque chose que j'aurais dû faire.

Information additionnelle:

# ls -l /db/mysql/ib*
-rw-rw---- 1 mysql mysql  18874368 Jul 21 01:26 /db/mysql/ibdata1
-rw-rw---- 1 mysql mysql 134217728 Jul 21 01:26 /db/mysql/ib_logfile0
-rw-rw---- 1 mysql mysql 134217728 Jul 21 01:26 /db/mysql/ib_logfile1

et

mysql> SHOW VARIABLES LIKE 'innodb%';
+-------------------------------------------+------------------------+
| Variable_name                             | Value                  |
+-------------------------------------------+------------------------+
| innodb_adaptive_flushing                  | ON                     |
| innodb_adaptive_flushing_method           | estimate               |
| innodb_adaptive_hash_index                | ON                     |
| innodb_adaptive_hash_index_partitions     | 1                      |
| innodb_additional_mem_pool_size           | 20971520               |
| innodb_autoextend_increment               | 8                      |
| innodb_autoinc_lock_mode                  | 1                      |
| innodb_blocking_buffer_pool_restore       | OFF                    |
| innodb_buffer_pool_instances              | 1                      |
| innodb_buffer_pool_restore_at_startup     | 0                      |
| innodb_buffer_pool_shm_checksum           | ON                     |
| innodb_buffer_pool_shm_key                | 0                      |
| innodb_buffer_pool_size                   | 402653184              |
| innodb_change_buffering                   | all                    |
| innodb_checkpoint_age_target              | 0                      |
| innodb_checksums                          | ON                     |
| innodb_commit_concurrency                 | 0                      |
| innodb_concurrency_tickets                | 500                    |
| innodb_corrupt_table_action               | assert                 |
| innodb_data_file_path                     | ibdata1:10M:autoextend |
| innodb_data_home_dir                      |                        |
| innodb_dict_size_limit                    | 0                      |
| innodb_doublewrite                        | ON                     |
| innodb_doublewrite_file                   |                        |
| innodb_fake_changes                       | OFF                    |
| innodb_fast_checksum                      | OFF                    |
| innodb_fast_shutdown                      | 1                      |
| innodb_file_format                        | Barracuda              |
| innodb_file_format_check                  | ON                     |
| innodb_file_format_max                    | Barracuda              |
| innodb_file_per_table                     | ON                     |
| innodb_flush_log_at_trx_commit            | 2                      |
| innodb_flush_method                       | O_DIRECT               |
| innodb_flush_neighbor_pages               | 0                      |
| innodb_force_load_corrupted               | OFF                    |
| innodb_force_recovery                     | 0                      |
| innodb_ibuf_accel_rate                    | 100                    |
| innodb_ibuf_active_contract               | 1                      |
| innodb_ibuf_max_size                      | 201310208              |
| innodb_import_table_from_xtrabackup       | 0                      |
| innodb_io_capacity                        | 4000                   |
| innodb_kill_idle_transaction              | 0                      |
| innodb_large_prefix                       | OFF                    |
| innodb_lazy_drop_table                    | 0                      |
| innodb_lock_wait_timeout                  | 50                     |
| innodb_locks_unsafe_for_binlog            | OFF                    |
| innodb_log_block_size                     | 4096                   |
| innodb_log_buffer_size                    | 4194304                |
| innodb_log_file_size                      | 134217728              |
| innodb_log_files_in_group                 | 2                      |
| innodb_log_group_home_dir                 | ./                     |
| innodb_max_dirty_pages_pct                | 75                     |
| innodb_max_purge_lag                      | 0                      |
| innodb_mirrored_log_groups                | 1                      |
| innodb_old_blocks_pct                     | 37                     |
| innodb_old_blocks_time                    | 0                      |
| innodb_open_files                         | 300                    |
| innodb_page_size                          | 16384                  |
| innodb_purge_batch_size                   | 20                     |
| innodb_purge_threads                      | 1                      |
| innodb_random_read_ahead                  | OFF                    |
| innodb_read_ahead                         | linear                 |
| innodb_read_ahead_threshold               | 56                     |
| innodb_read_io_threads                    | 24                     |
| innodb_recovery_stats                     | OFF                    |
| innodb_recovery_update_relay_log          | OFF                    |
| innodb_replication_delay                  | 0                      |
| innodb_rollback_on_timeout                | OFF                    |
| innodb_rollback_segments                  | 128                    |
| innodb_show_locks_held                    | 10                     |
| innodb_show_verbose_locks                 | 0                      |
| innodb_spin_wait_delay                    | 6                      |
| innodb_stats_auto_update                  | 0                      |
| innodb_stats_method                       | nulls_equal            |
| innodb_stats_on_metadata                  | OFF                    |
| innodb_stats_sample_pages                 | 8                      |
| innodb_stats_update_need_lock             | 1                      |
| innodb_strict_mode                        | OFF                    |
| innodb_support_xa                         | ON                     |
| innodb_sync_spin_loops                    | 30                     |
| innodb_table_locks                        | ON                     |
| innodb_thread_concurrency                 | 0                      |
| innodb_thread_concurrency_timer_based     | OFF                    |
| innodb_thread_sleep_delay                 | 10000                  |
| innodb_use_global_flush_log_at_trx_commit | ON                     |
| innodb_use_native_aio                     | ON                     |
| innodb_use_sys_malloc                     | ON                     |
| innodb_use_sys_stats_table                | OFF                    |
| innodb_version                            | 1.1.8-rel27.1          |
| innodb_write_io_threads                   | 24                     |
+-------------------------------------------+------------------------+
90 rows in set (0.00 sec)

De @RolandoMySQLDBA: Veuillez exécuter ceci

SET @TimeInterval = 300;
SELECT variable_value INTO @num1 FROM information_schema.global_status
WHERE variable_name = 'Innodb_os_log_written';
SELECT SLEEP(@TimeInterval);
SELECT variable_value INTO @num2 FROM information_schema.global_status
WHERE variable_name = 'Innodb_os_log_written';
SET @ByteWrittenToLog = @num2 - @num1;
SET @KB_WL = @ByteWrittenToLog / POWER(1024,1) * 3600 / @TimeInterval;
SET @MB_WL = @ByteWrittenToLog / POWER(1024,2) * 3600 / @TimeInterval;
SET @GB_WL = @ByteWrittenToLog / POWER(1024,3) * 3600 / @TimeInterval;
SELECT @KB_WL,@MB_WL,@GB_WL;

et afficher la sortie. Cela vous indiquera combien d'octets par heure sont écrits dans ib_logfile0 / ib_logfile1 sur la base des 5 prochaines minutes.

Au-dessus du résultat de la requête SQL (à 8h, heure locale, alors que les membres en ligne représentent environ 25% des statistiques pendant la journée):

mysql> SELECT @KB_WL,@MB_WL,@GB_WL;
+--------+----------+-------------------+
| @KB_WL | @MB_WL   | @GB_WL            |
+--------+----------+-------------------+
|  95328 | 93.09375 | 0.090911865234375 |
+--------+----------+-------------------+
1 row in set (0.00 sec)
tia
la source
Veuillez exécuter ce qui suit ls -l /var/lib/mysql/ib*Je veux voir les tailles de fichier. J'ai également besoin de savoir quelle version de MySQL vous utilisez et si toutes vos données sont InnoDB.
RolandoMySQLDBA
Veuillez exécuter ceci: SHOW VARIABLES LIKE 'innodb%';et affichez-le dans votre question !!!
RolandoMySQLDBA
@RolandoMySQLDBA Merci de votre intérêt. La question est maintenant mise à jour avec les tailles de fichier et les variables innodb.
tia
Combien de RAM sur le serveur DB ???
RolandoMySQLDBA
@RolandoMySQLDBA Il a obtenu 2 Go. J'ai mis à jour la question en conséquence.
tia

Réponses:

7

Voici quelques choses que vous pourriez changer

  • innodb_log_buffer_size : Vous avez 4M. La valeur par défaut est 8M. Essayez de le porter à 8M.
  • innodb_log_file_size : Vous avez 128M. Compte tenu des informations suivantes que vous avez fournies
    • vous écrivez sur une moyenne de 93 Mo par heure dans les fichiers journaux innodb, sur la base de 25% des statistiques
    • l'heure de pointe serait d'environ 372 Mo par heure
    • la moitié est de 186 Mo arrondir à 192 Mo
    • définissez innodb_log_file_size sur 192 Mo
  • innodb_io_capacity semble un peu élevé, faites-en 200 ou 300 (selon le matériel)
  • innodb_read_io_threads et innodb_write_io_threads devraient être au maximum à 64. Parfois, moins c'est mieux dans un environnement lourd en écriture. Utilisez 8 ou 16 dans de tels cas.

Pour changer innodb_log_file_size à 192M, ajoutez ceci à /etc/my.cnf

[mysqld]
innodb_log_buffer_size=8M
innodb_log_file_size=192M
innodb_open_files=300
innodb_read_io_threads=64
innodb_write_io_threads=64

puis procédez comme suit

mysql -u... -p... -e"FLUSH TABLES;"
service mysql stop
mv /var/lib/mysql/ib_logfile0 /var/lib/mysql/ib_logfile0000
mv /var/lib/mysql/ib_logfile1 /var/lib/mysql/ib_logfile0001
service mysql start

Testez cela pendant les périodes lentes et voyez si cela améliore les choses

MISE À JOUR 2012-10-19 12:31 EDT

Pour mettre votre situation en perspective, réfléchissez aux objectifs d'ibdata1 et ib_logfile0 / 1. Plutôt que de tout réécrire, veuillez lire mon dernier article sur les fichiers journaux ibdata1 et InnoDB: que sont exactement les fichiers iblog dans mysql

Une fois que vous avez lu mon autre article, considérez maintenant ceci: Qu'est-ce qui augmenterait les E / S sur ces fichiers?

  • Mise à jour des index secondaires dans le tampon d'insertion d'ibdata1
  • Nettoyage des segments de restauration / espace d'annulation

À mon humble avis, j'augmenterais le pool de tampons InnoDB de 384M à 1G.

Je recommanderais également de mettre à niveau la RAM vers 8G

RolandoMySQLDBA
la source