如何用python批量插入数据到mysql数据库，用list

MySQL 的 Binlog 记录着 MySQL 数据库的所有变更信息，了解 Binlog 的结构可以帮助我们解析Binlog，甚至对 Binlog 进行一些修改，或者说是“篡改”，例如实现类似于 Oracle 的 flashback 的功能，恢复误删除的记录，把 update 的记录再还原回去等。本文将带您探讨一下这些神奇功能的实现，您会发现比您想象地要简单得多。本文指的 Binlog 是 ROW 模式的 Binlog，这也是 MySQL 8 里的默认模式，STATEMENT 模式因为使用中有很多限制，现在用得越来越少了。

Binlog 由事件（event）组成，请注意是事件（event）不是事务（transaction），一个事务可以包含多个事件。事件描述对数据库的修改内容。

现在我们已经了解了 Binlog 的结构，我们可以试着修改 Binlog 里的数据。例如前面举例的 Binlog 删除了一条记录，我们可以试着把这条记录恢复，Binlog 里面有个删除行（DELETE_ROWS_EVENT）的事件，就是这个事件删除了记录，这个事件和写行（WRITE_ROWS_EVENT）的事件的数据结构是完全一样的，只是删除行事件的类型是 32，写行事件的类型是 30，我们把对应的 Binlog 位置的 32 改成 30 即可把已经删除的记录再插入回去。从前面的 “show binlog events” 里面可看到这个 DELETE_ROWS_EVENT 是从位置 378 开始的，这里的位置就是 Binlog 文件的实际位置（以字节为单位）。从事件（event）的结构里面可以看到 type_code 是在 event 的第 5 个字节，我们写个 Python 小程序把把第383（378+5=383）字节改成 30 即可。当然您也可以用二进制编辑工具来改。

找出 Binlog 中的大事务

由于 ROW 模式的 Binlog 是每一个变更都记录一条日志，因此一个简单的 SQL，在 Binlog 里可能会产生一个巨无霸的事务，例如一个不带 where 的 update 或 delete 语句，修改了全表里面的所有记录，每条记录都在 Binlog 里面记录一次，结果是一个巨大的事务记录。这样的大事务经常是产生麻烦的根源。我的一个客户有一次向我抱怨，一个 Binlog 前滚，滚了两天也没有动静，我把那个 Binlog 解析了一下，发现里面有个事务产生了 1.4G 的记录，修改了 66 万条记录！下面是一个简单的找出 Binlog 中大事务的 Python 小程序，我们知道用 mysqlbinlog 解析的 Binlog，每个事务都是以 BEGIN 开头，以 COMMIT 结束。我们找出 BENGIN 前面的 “# at” 的位置，检查 COMMIT 后面的 “# at” 位置，这两个位置相减即可计算出这个事务的大小，下面是这个 Python 程序的例子。

切割 Binlog 中的大事务

对于大的事务，MySQL 会把它分解成多个事件（注意一个是事务 TRANSACTION，另一个是事件 EVENT），事件的大小由参数 binlog-row-event-max-size 决定，这个参数默认是 8K。因此我们可以把若干个事件切割成一个单独的略小的事务

ROW 模式下，即使我们只更新了一条记录的其中某个字段，也会记录每个字段变更前后的值，这个行为是 binlog_row_image 参数控制的，这个参数有 3 个值，默认为 FULL，也就是记录列的所有修改，即使字段没有发生变更也会记录。这样我们就可以实现类似 Oracle 的 flashback 的功能，我个人估计 MySQL 未来的版本从可能会基于 Binlog 推出这样的功能。

了解了 Binlog 的结构，再加上 Python 这把瑞士军刀，我们还可以实现很多功能，例如我们可以统计哪个表被修改地最多？我们还可以把 Binlog 切割成一段一段的，然后再重组，可以灵活地进行 MySQL 数据库的修改和迁移等工作。

mysql 主从配置 从如何寻找主的binlog 日志

看下做主机的服务器日志模式是不是binlog的啊。然后找到主服务器binlog的最新位置，通过CHANGEMASTER命令将MASTER_LOG_FILE和MASTER_LOG_POS重新指定一下。

master_log_file='binlog.000002'从新指认过了，

看了一下mysql的错误日志：

SlaveI/O：errorconnectingtomaster'hsk@192.168.1.31:3306'-retry-time：60retries：7，Error_code：2049

master_log_file指定了，还要指定正确的MASTER_LOG_POS位置啊。

其实最简单的就是做主从的时候，先把主机数据库连接全部停掉，然后把主机数据库备份一下，拿着这个备份文件将备库数据库做下恢复，保证主从两个数据库一致。

然后在做主从，在主机创建数据库用户用于备库连接，将权限全部附好。然后把备库的读取点执行到主机最新的日志文件，和最后的执行点(主从备份就是备机不停的读主机的binlog日志并执行)，就是MASTER_LOG_FILE和MASTER_LOG_POS。

本回答由提问者推荐

mysql开启binlog日志_mysql查看binlog日志内容

如何查看mysql数据库的日志文件

这是一个慢查询日志的展示工具，能够帮助DBA或者开发人员分析数据库的性能问题，给出全面的数据摆脱直接查看slow-log。QAN(QueryAnalytics)

PMM目前有2个版本，但是对于QAN来说其大致由三部分组成：

QAN-Agent(client)：负责采集slow-log的数据并上报到服务端

QAN-API(server)：负责存储采集的数据，并对外提供查询接口

QAN-APP：专门用来展示慢查询数据的grafana第三方插件

1.数据流转

slow-log-->QAN-Agent-->QAN-APIQAN-APP(grafana)

2.pmm1架构图

3.pmm2架构图

如何在MySql中记录SQL日志记录

log

long_query_time=1

log指示日志文件存放目录；

log_slow_queries指示记录执行时间长的sql日志目录；

long_query_time指示多长时间算是执行时间长，单位s。

Linux下这些配置项应该已经存在，只是被注释掉了，可以去掉注释。

mysql开启binlog日志_mysql查看binlog日志内容

如何查看自己被封了的QQ空间照片和日志和记事本内容

编辑好文本后 点击上边的 插入图片 然后再从电脑上选择图片 即可

怎样打开查看mysql binlog

在不重启的情况下，只能set global sql_log_bin=OFF在数据导入前先设定此参数数据导入完成后，可以再开启有两种方法，一种方法使用mysql的check table和repair table 的sql语句，另一种方法是使用mysql提供的多个myisamchk, isamchk数据检测恢复工具。前者使用起来比较简便。推荐使用。

1. check table 和 repair table

登陆mysql 终端：

mysql -uxxxxx -p dbname

check table tabtest

如果出现的结果说status是ok，则不用修复，如果有error，可以用：

repair table tabtest

进行修复，修复之后可以在用check table命令来进行检查。在新版本的phpmyadmin里面也可以使用check/repair的功能。

2. myisamchk, isamchk

其中myisamchk适用于myisam类型的数据表，而isamchk适用于isam类型的数据表。这两条命令的主要参数相同，一般新的系统都使用myisam作为缺省的数据表类型，这里以myisamchk为例子进行说明。当发现某个数据表出现问题时可以使用：

myisamchk tablename.myi

进行检测，如果需要修复的话，可以使用：

myisamchk -of tablename.myi

关于myisamchk的详细参数说明，可以参见它的使用帮助。需要注意的时在进行修改时必须确保mysql服务器没有访问这个数据表，保险的情况下是最好在进行检测时把mysql服务器shutdown掉。

－－－－－－－－－－－－－－－－－－－－－－－－－－－－－

另外可以把下面的命令放在你的rc.local里面启动mysql服务器前：

[ -x /tmp/mysql.sock ] &&/pathtochk/myisamchk -of /data_dir/*/*.myi

其中的/tmp/mysql.sock是mysql监听的sock文件位置，对于使用rpm安装的用户应该是/var/lib/mysql/mysql.sock，对于使用源码安装则是/tmp/mysql.sock可以根据自己的实际情况进行变更，而pathtochk则是myisamchk所在的位置，data_dir是你的mysql数据库存放的位置。

需要注意的时，如果你打算把这条命令放在你的rc.local里面，必须确认在执行这条指令时mysql服务器必须没有启动！检测修复所有数据库(表)

mysql开启binlog日志_mysql查看binlog日志内容_03

怎么查看mysql日志

MySQL的日志文件模块启动后才会有日志记录。

开启日志服务:

在MY.INI里，MYSQLD项下添加log-bin=mysql。

如果只对某个库进行日志文件记录，那么再添加binlog-do-db=test，这样就只记录test数据库的日志，而放弃其他的。

添加完后，重新启动MYSQL的服务，日志文件开始工作了.

查看是否启用了日志命令：mysql>show variables like 'log_bin'

查看当前的日志命令：mysql>show master status

看二进制日志文件用mysqlbinlog命令：shell>mysqlbinlog mail-bin.000001查看mysql日志的方法： 使用bin目录下mysqlbinlog命令，如： bin>mysqlbinlog d:/mysql_log/mysql_bin.000001 bin>mysqlbinlog d:/mysql_log/mysql_bin.000002 bin>mysqlbinlog d:/mysql_log/mysql_bin.000003 bin>mysqlbinlog d:/mysql_log/mysql_bin.000004 bin>mysqlbinlog d:/mysql_log/mysql_bin.000005 使用sql语句也可查看mysql创建的二进制的文件目录： mysql>show master logs查看当前二进制文件状态： mysql>show master status

---