php多进程处理

往往我们会碰到一个情况,需要写一个脚本,这个脚本要处理的数据量极大,单进程处理脚本非常慢,那么这个时候就会想到使用多进程或者多线程的方式了。

我习惯使用多进程的方式,php中使用多进程的时候需要使用pcntl,pcntl的使用可以看这个PHP的pcntl多进程

但是这里有一个问题,一个主进程把任务分成n个部分,然后把任务分配给多个子进程,但是任务可能是有返回值的,所有的子进程处理完返回值以后需要把返回值返回给主进程。

这个就涉及到了进程间通信了。进程间通信可以使用的方法当然很多了,比如用redis,用数据库,用文件等。

php中最简单的要算shmop相关函数了。

  • shmop_open
  • shmop_read
  • shmop_write
  • shmop_size
  • shmop_delete

那怎么让一个类很容易有多进程处理的能力呢?可以使用php的trait,创建一个PcntlTrait,所有需要有多进程处理功能的类就use 这个trait就行。

PcntlTrait代码如下:

<?php namespace App\Console\Commands;

trait PcntlTrait
{
private $workers = 1;

public function worker($count)
{
$this->workers = $count;
}

public function pcntl_call($all, \Closure $callback)
{
$perNum = ceil(count($all) / $this->workers);

$pids = [];
for($i = 0; $i < $this->workers; $i++){
$pids[$i] = pcntl_fork();
switch ($pids[$i]) {
case -1:
echo "fork error : {$i} \r\n";
exit;
case 0:
$data = [];
try {
$data = $callback(array_slice($all, $i * $perNum, $perNum));
} catch(\Exception $e) {
echo ($e->getMessage());
}

$shm_key = ftok(__FILE__, 't') . getmypid();
$data = json_encode($data);
$shm_id = shmop_open($shm_key, "c", 0777, strlen($data) + 10);
shmop_write($shm_id, $data, 0);
shmop_close($shm_id);
exit;
default:
break;
}
}

// only master process will go into here
$ret = [];
foreach ($pids as $i => $pid) {
if($pid) {
pcntl_waitpid($pid, $status);

$shm_key = ftok(__FILE__, 't') . $pid;
$shm_id = shmop_open($shm_key, "w", 0, 0);

$data = trim(shmop_read($shm_id, 0, shmop_size($shm_id)));
$data = json_decode($data, true);
$ret = array_merge($ret, $data);
@shmop_close($shm_id);
@shmop_delete($shm_id);
}
}

return $ret;
}
}

它有两个参数,第一个参数为传入数组,第二个参数为数组处理函数。

它的具体使用通过下面这个测试用例可以看出:

<?php

use App\Console\Commands\PcntlTrait;

class PcntlImp
{
use PcntlTrait;
}

class TestPcntlTrait extends \TestCase
{
public function setup()
{
$this->createApplication();
}

public function testPcntlCall()
{
$arr = [1,2,3,4,5,6,7,8,9,10];

$imp = new \PcntlImp();
$imp->worker(2);

$data = $imp->pcntl_call($arr, function($info){
if (empty($info)){
return [];
}

$ret = [];
foreach ($info as $item) {
$ret[] = $item * $item;
}
return $ret;
});

$this->assertEquals(10, count($data));
$this->assertEquals(25, $data[4]);
}
}

非常方便~~

更多相关文章

  1. imagecreatetruecolor()在symfony中不起作用,但如果作为php脚本运行
  2. php-fpm通过request_slowlog_timeout检查哪个脚本执行时间长
  3. 显示长期运行的PHP脚本的进展。
  4. nohup:在后台运行PHP进程
  5. PHP基础之脚本传参
  6. phpBB3导入帖子的Python脚本
  7. PHP脚本在我的Wordpress文件中。请解码或帮助我删除它。
  8. AJAX调用在JavaScript中运行PHP脚本
  9. 通过Bash脚本语言逃避MYSQL命令行。

随机推荐

  1. XML文件使用SAX方法读取的示例代码
  2. XML字符转Map工具类的示例代码分享
  3. 详细介绍XML原理代码实例
  4. 解析XML文件的几种方式对比的详细介绍
  5. XML和Schema命名空间的详细介绍
  6. 详解XML- JAXP技术-DOM解析
  7. xml解析-增删改查操作后将其修改结果保存
  8. 详细介绍soap相关的xml知识
  9. 如何通过XSLT转换XML的示例代码
  10. 详细介绍eclipse关闭XML验证的方法