大规模web架构gearman分布式处理应用案例

大规模web架构gearman分布式处理应用案例

一. 场景分析业务服务压力比较大，想把一些占用资源的功能异步到远程处理，比如记录业务日志，文件加密，文件分发到其他文件服务器节点上，检查文件服务器是否已同步，对用户上传的图片进行剪裁生成多份缩略图，视频转换，静态内容生成，清除缓存等等，这些请求耗时长，占用系统资源大，影响业务正常访问。这些问题会经常遇到的，如果这些任务都在用户请求过程中完成，服务器撑不撑得住暂不考虑，单凭用户体验角度考虑来说，那是难以忍受的。

三. 应用实例需要安装的模块有Mail::SendEasy、Gearman::Worker、Gearman::Client、JSON。

这存在一个问题， 会长期阻塞在send函数，而无限制等待下去, 直到超时，很可能会拖垮服务器的。我们可以使用gearman，来改变这种发送邮件的方式。第一步，创建一个worker实例SENDMAIL，并向job server注册，等待接收任务并执行发送邮件的操作。第二步，客户端只需要将发送邮件的任务丢给job server便退出，没你什么事了。上代码：# vim work_SENDMAIL.pl

# vim gearman_client.pl

完成上面的改造不要认为解决了发送邮件会长期阻塞在send函数，而无限制等待下去的问题了。这其实只是解决了一部分，还有一个问题需要考虑进去，既然采用了异步方式，那么应用程序是不知道邮件是否发送成功的，因此需要记录任务执行的结果，可以将结果写入数据库，定期的对发送失败的邮件进行再次发送，或写个异常处理的worker，捕获发送邮件异常，进行多次尝试发送。

通过这样的异步任务处理，可以很好的解决前面场景提到的问题，完全取决于如何应用gearman了。如有更好的应用可以相互交流。