百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术分析 > 正文

php通过共享内存,控制mysql连接数,多进程插入数据(pcnt学习)

liebian365 2024-11-03 15:47 5 浏览 0 评论

当进程数过多时,多进程插入mysql数据库表,超过了mysql最大连接数,就会报错,插入就会有失败的情况。想通过进程间通信来控制一下连接数,

实现了一下,利用共享内存来存放mysql的连接数,当某个进程在获取信号量后,尝试去连接数据库之前,先判断一下,当前的连接数是否超过了预定的阈值,如果没有,就连接数据库,连接成功后,连接数加一,立马释放信号,等操作数据库完毕后,进程再次阻塞,来获取信号,然后把连接数减一,释放信号量后,进程退出。

这样就可以控制有mysql的连接数不会达到上限,程序不会出现连接数据库失败的情况。当然我可以直接少fork一些进程,本人就是觉得要折腾一下。不然进程通信就懵逼了。而且也不会有以下的问题出现。

但是本人实验,fork一万个子进程,虚拟机很容易就挂了。后来该为fork 5000个子进程,插入一百万条数据,模拟的是最原始的插入。虚拟机虽然没有崩, 但是很卡,期间会出现很多僵尸进程,这里有点疑问。

多进程耗内存比较严重,下一步打算用多线程来试试。

ps:要支持Semaphore函数,php在编译安装是要加上如下参数:

--enable-sysvsem
--enable-sysvshm
--enable-sysvmsg

为此,我还重新编译了php。。。。蛋疼啊。代码如下:

<?php
/**
* 模拟并发请求,100万次写入数据库
* 拆分为10000个进程,
* 使用数据库连接池,size 为500
*
*/
$total = 1000;
$num = 500;
$per = $total/$num;
$poolSize = 500; // 数据库连接池容量
$sql = '';
$child = [];
// 共享内存通信
$shm_key = ftok(__FILE__,'t');
$shm_id = shm_attach($shm_key,1024,0655);
const SHARE_KEY = 1;
$pool = [];
// 加入信号量
$sem_id = ftok(__FILE__,'s');
$signal = sem_get($sem_id);
// 初始化连接数量,开始的连接数为0
shm_put_var($shm_id, SHARE_KEY,0);
$begin = microtime(true);
echo 'start '.$begin.PHP_EOL;
for($i = 1; $i<= $num; $i++)
{
 $pid = pcntl_fork();
 if($pid == -1) {
 die('fork error');
 }
 if($pid > 0) {
 //$id = pcntl_wait($status,WNOHANG);
 $child[] = $pid;
 } else if ($pid == 0) {
 while(true) {
 // 获得信号量
 sem_acquire($signal);
 $count = shm_get_var($shm_id, SHARE_KEY);
 if ($count >= $poolSize) {
 sem_release($signal);
 continue;
 } else {
 $link = mysqli_connect('localhost','root','root','yii2advanced');
 if ($link) {
 $count++;
 shm_put_var($shm_id,SHARE_KEY,$count);
 sem_release($signal);
 $start = ($i-1)*$per + 1;
 $end = $start + $per;
 for($j = $start; $j< $end; $j++){
 $time = microtime(true);
 $sql = 'insert pcntl_test (rank,time) values ('.$j.','.$time.')';
 mysqli_query($link,$sql);
 }
 mysqli_close($link);
 break;
 }
 }
 sleep(1);
 }
 sem_acquire($signal);
 $count = shm_get_var($shm_id,SHARE_KEY);
 $count--;
 shm_put_var($shm_id, SHARE_KEY, $count);
 sem_release($signal);
 $id = getmypid();
 $count++;
 echo 'count : '.$count.' child '.$id.' finished '.microtime(true).PHP_EOL;
 exit(0);
 }
}
while(count($child)){
 foreach($child as $k => $pid) {
 $res = pcntl_waitpid($pid, $status, WNOHANG);
 if ( -1 == $res || $res > 0) {
 unset($child[$k]);
 }
 }
}
$end = microtime(true);
echo 'end '.$end.PHP_EOL;
echo 'fork '.$num.'process insert '.$total.' recodes takes '.($end-$begin).PHP_EOL;

相关推荐

快递查询教程,批量查询物流,一键管理快递

作为商家,每天需要查询许许多多的快递单号,面对不同的快递公司,有没有简单一点的物流查询方法呢?小编的回答当然是有的,下面随小编一起来试试这个新技巧。需要哪些工具?安装一个快递批量查询高手快递单号怎么快...

一键自动查询所有快递的物流信息 支持圆通、韵达等多家快递

对于各位商家来说拥有一个好的快递软件,能够有效的提高自己的工作效率,在管理快递单号的时候都需要对单号进行表格整理,那怎么样能够快速的查询所有单号信息,并自动生成表格呢?1、其实方法很简单,我们不需要一...

快递查询单号查询,怎么查物流到哪了

输入单号怎么查快递到哪里去了呢?今天小编给大家分享一个新的技巧,它支持多家快递,一次能查询多个单号物流,还可对查询到的物流进行分析、筛选以及导出,下面一起来试试。需要哪些工具?安装一个快递批量查询高手...

3分钟查询物流,教你一键批量查询全部物流信息

很多朋友在问,如何在短时间内把单号的物流信息查询出来,查询完成后筛选已签收件、筛选未签收件,今天小编就分享一款物流查询神器,感兴趣的朋友接着往下看。第一步,运行【快递批量查询高手】在主界面中点击【添...

快递单号查询,一次性查询全部物流信息

现在各种快递的查询方式,各有各的好,各有各的劣,总的来说,还是有比较方便的。今天小编就给大家分享一个新的技巧,支持多家快递,一次能查询多个单号的物流,还能对查询到的物流进行分析、筛选以及导出,下面一起...

快递查询工具,批量查询多个快递快递单号的物流状态、签收时间

最近有朋友在问,怎么快速查询单号的物流信息呢?除了官网,还有没有更简单的方法呢?小编的回答当然是有的,下面一起来看看。需要哪些工具?安装一个快递批量查询高手多个京东的快递单号怎么快速查询?进入快递批量...

快递查询软件,自动识别查询快递单号查询方法

当你拥有多个快递单号的时候,该如何快速查询物流信息?比如单号没有快递公司时,又该如何自动识别再去查询呢?不知道如何操作的宝贝们,下面随小编一起来试试。需要哪些工具?安装一个快递批量查询高手快递单号若干...

教你怎样查询快递查询单号并保存物流信息

商家发货,快递揽收后,一般会直接手动复制到官网上一个个查询物流,那么久而久之,就会觉得查询变得特别繁琐,今天小编给大家分享一个新的技巧,下面一起来试试。教程之前,我们来预览一下用快递批量查询高手...

简单几步骤查询所有快递物流信息

在高峰期订单量大的时候,可能需要一双手当十双手去查询快递物流,但是由于逐一去查询,效率极低,追踪困难。那么今天小编给大家分享一个新的技巧,一次能查询多个快递单号的物流,下面一起来学习一下,希望能给大家...

物流单号查询,如何查询快递信息,按最后更新时间搜索需要的单号

最近有很多朋友在问,如何通过快递单号查询物流信息,并按最后更新时间搜索出需要的单号呢?下面随小编一起来试试吧。需要哪些工具?安装一个快递批量查询高手快递单号若干怎么快速查询?运行【快递批量查询高手】...

连续保存新单号功能解析,导入单号查询并自动识别批量查快递信息

快递查询已经成为我们日常生活中不可或缺的一部分。然而,面对海量的快递单号,如何高效、准确地查询每一个快递的物流信息,成为了许多人头疼的问题。幸运的是,随着科技的进步,一款名为“快递批量查询高手”的软件...

快递查询教程,快递单号查询,筛选更新量为1的单号

最近有很多朋友在问,怎么快速查询快递单号的物流,并筛选出更新量为1的单号呢?今天小编给大家分享一个新方法,一起来试试吧。需要哪些工具?安装一个快递批量查询高手多个快递单号怎么快速查询?运行【快递批量查...

掌握批量查询快递动态的技巧,一键查找无信息记录的两种方法解析

在快节奏的商业环境中,高效的物流查询是确保业务顺畅运行的关键。作为快递查询达人,我深知时间的宝贵,因此,今天我将向大家介绍一款强大的工具——快递批量查询高手软件。这款软件能够帮助你批量查询快递动态,一...

从复杂到简单的单号查询,一键清除单号中的符号并批量查快递信息

在繁忙的商务与日常生活中,快递查询已成为不可或缺的一环。然而,面对海量的单号,逐一查询不仅耗时费力,还容易出错。现在,有了快递批量查询高手软件,一切变得简单明了。只需一键,即可搞定单号查询,一键处理单...

物流单号查询,在哪里查询快递

如果在快递单号多的情况,你还在一个个复制粘贴到官网上手动查询,是一件非常麻烦的事情。于是乎今天小编给大家分享一个新的技巧,下面一起来试试。需要哪些工具?安装一个快递批量查询高手快递单号怎么快速查询?...

取消回复欢迎 发表评论: