基于线程池技术集群接入点的应用研究

基于线程池技术集群接入点的应用研究 文章编号:1008-0570(2009)08-3-0133-03 基于线程池技术集群接入点的应用研究 Research and Application of Clusters Access Point based Thread Pools 湖南大学王俊峰() 谢冬青 WANG J un-fe ng XIE Dong-qing 摘要本 文在深入研究高级线程池技术的基础上 分 析 提 出研 究了固定线程数目的线程池和线程数目动态变化的线程池 : , 、 , 用对数幂渐增变化算法 设计 领导形象设计圆作业设计ao工艺污水处理厂设计附属工程施工组织设计清扫机器人结构设计 的线程数目动态变化的线程池 该 方案 气瓶 现场处置方案 .pdf气瓶 现场处置方案 .doc见习基地管理方案.doc关于群访事件的化解方案建筑工地扬尘治理专项方案下载 应用于电信业务支撑系统集群接入点信令服务器 实 验 , , 结 果 表 明该算法有很好性能 而集群接入点方案在请求响应模型的服务器领域中有广泛的应用价值 , , 。 关键词线程池集群计算集群接入点七号信令 : ; ; ; 中图分类号文献标识码: TP301;TP302 : B Abstract: Based on in - depth study of senior thread pool, analysis and research the fixed number and dynamic number the thread of pool, put forward the Power Incrementa l Changes algorithm of thread thispoo lsolution , is used in the signaling system servers clus- ters accesspoint in the application ofthe telecommunications business support ,system the results showthat the algorithm has good performance, andthe access point cluster solution haswide a range of applications in the model of responsethe to request server s. Key words: thread pools;cluster s compute;cluster s accesspoint; SS7 (Signaling System# 7) 线程处理该请求由于请求到达时线程已存在故消除了线程创,, 线程池技术1 建所带来的延迟; 在任务执行完毕后线程不销毁和回收资源而是在池中 (3),多线程技术作为提高服务器效率的主要手段主要解决处, 处于阻塞状态等待下一次的调度因而也不存在销毁线程使用 , 理器单元内多个线程之间执行的问题它可以显著减少处理器 , 的时间多个线程处理多个 这样就可以多个任务重用多个线程。 ,单元的闲置时间提高处理器的利用率从而使得处理器可以无 ,,任务使系统响应更快提高了系统的实时性,,。 可停滞地进行流水线式运算处理大大提高了服务器的处理能 , 力和响应速度即 传统多线程方案中采用的模型是即时创建。 “, 时销毁的策略创建和销毁线程的时系统要为线程分配和销毁 ”, 线程池实现策略2 自己的堆栈线程的应用上下文等系统资源如果提交给线程的 、, 任务量较大那么服务器将处于不停的创建和销毁线程的状态,, 实现策略可有两种一种是线程数目固定的线程池另一种:, 这可能会导致系统过度消耗内存或不停的切换线程而导致 切 “ 是线程数动态变化的线程池。换过度严重影响了服务器的性能”,。 线程数目固定的线程池2.1 假设服务器完成一项计算所需的时间为 这个时间主要 T, 线程池预创建了初始数目的工作线程后任务到来工作线,, 包含四个部分: 程被调度运行运行完毕后该线程返回给线程池池中始终维 ,,。 创建线程的时间执行计算任务的时间线程调度 T1:;T2: ;T3:持初始数目的工作线程数线程数不会依据系统负载发生变化,, 如果某时刻系统负载增大空闲线程数则随着突发任务的增加 , 和同步时间线程销毁的时间和 是线程本身的开销;T4:。 T1 T4 , 而减小直至池中已无可用空闲线程此时新到来的请求只能等 , 如果创建和销毁线程过于频繁这导致 和 在 中占有相 ,T1 T4 T 待池中线程也不会被销毁而系统必须维 若系统负载较轻时。 ,,当比例是系统执行计算任务的时间与计算任务的性质和算;T2 , 持这些开销固定初始工作线程数目的线程池最大的好处有利 。 法相关线程调度和同步时间与系统内线程的数目密切相关 ;T3 ,于维持系统性能的稳定如 机上取款操作等性能相对比较 ,ATM 如果系统内的线程数目较大导致系统为线程切换过度则 “”,T3 稳定的场景就是不能有效真实的反映 然而其弊端也显而易见。 ,也不可忽略的时间代价降到最低就能最 如果能将 。 T1、T3、T4 ,系统性能的变化如某时刻系统有突发任务时负载不能及时有 ,,大化的提高系统的性能。 效的处理而系统长时间处于轻负载时系统也必须维护这些线 ,,程的开销。 线程池技术为解决上述问题提供了良好的解决方案。 线程池采用预创建技术线程池启动后将创建一定数量 (1),, 的线程放入空闲队列初始时均处于阻塞状态几乎不占 资源,,CPU ; 当请求到来后线程池根据策略选择一个空闲线程由此(2),, 线程数动态变化的线程池2.2 为适应业务请求的突发式变化优化线程池中工作线程数, 目和动态增加和销毁线程池中的线程是必然选择如果请求突 。 发增长的话为维护性能批量增加线程数目以适应业务需求增,,, 硕士研究生王俊峰: 长的数目的上限要依据系统的性能而定系统还要为请求任务 , 基金项目基金申请人谢冬青项 目 名 称基 于 矢 量空 间 访 , , ; , 的数目确定一个阈值当超过某个阈值时就强制其它任何新到 ,,问结构和一般访问结构的多重秘密共享体制 基金颁发部门的请求一直等待直到获得一个可用线程为止从而可防止资源 , , ,, 不足线程池会销毁部分空闲线程回收系当系统比较空闲时教育部重点基金项目。 ,, (105129) 《微计算机信息》( 管控一体化) 2009 年第 25 卷第 8-期 3 软 件 时 空 统资源维持系统平稳高效的运行该策 略 保证 了 线 程数 目 渐 缓式 的 增 长当 ,。 >=1,,Num>=Num (cur)(max) 时取 ,Num=Num。 (cur)(max) 基 于 对 数 幂 渐 增 变 化 算 法 的 动 态3 线程销毁策略3.2 线程池的设计方案即上述 值较小的情况下主要线程销毁在系统负载较轻,p , 设计 一 个既 能 维 护系 统 性 能稳 定 又 能适 应 突 发 任 务 请 求 对池中那些超时而没有被调度的线程进行销毁系统维护一个超 ,的线城池是设计的目标本方案结合固定线程池能维护系统性 。 时线程队列如果线程超时就被挂至超时线程队列批量销毁,,,。 能稳定和动态线程池可以适应请求动态变化的优点设计而成, 设计思想: 集群接入点系统模型4 初始时系统也创建一定数目的线程池中的线程可以满足 , 业务请求的需要当请求突发变化池中线程不能满足业务需求 , 一个请求任务被接入点服务器接收后服务器经过简单的, 时采用对数幂渐增算法满足对突发请求的处理需求,。 处理后发送至一台专门进行运算的计算机运算的计算机将运 , 当系统空闲时大部分线程都一直处于挂起状态系统会记 , 算结果返回给接入点服务器服务器将结果返回给请求的用户,, 录每个线程的空闲时间当空闲时间达到某个预定的阈值时批 ,,我们定义这样的请求响应过程为一次会话系统总体架构简要 。 量销毁线程。 描述如图 1: 对数幂渐增算法3.1 初始创建线程数目 系统最大可承载的线程数 (1)Num,Num (init) 和 为固定值且都大于 显 然 , NumNum,1。 Num< Num (init)(max)(init) (max) 系统当 前 线程数目为 且初始时 。 Num, Num= Num。 (cur) (cur) (init)(max) 当 不能满足业务需求需新创建线程时第一次创建的(2) Num, (cur) 线 程数 目 此 时池 中 的 线程 数 目 为 Num= logNum,Num= (1) 2(cur)(cur) 技Num+ Num。 (init)(1)图 接入点架构图1 当 系统不能满足处理需要再次创建线 (3) Num< Num,(cur) (max) 程时创建的线程数目 表示第 次重新增加 ,Num= logNum(i i 术(i)(i+1)(cur) 线程取 而当前线程数目修改为 ,i 1,2,3,…),Num+= Num。 (cur) (i) 如果 时系统停止再次 (4) Num>= Num,Num=Num(cur) (max)(cur) (max) 创 请求创建线程当系统不能满足处理需求时继续上述否则。 ,(3)。 算法分析如下 3.1.1 : 新上述 和 的值的选取很重要在应用中为固定 NumNum,(init)(max) 值初始数目的选择通常依据业务的性质 统计规律系统的承 ,、、 受能力和客户的忍受能力而定分析如下。 : 图 系统组网图2 初始时池中线程数目为固定值 设为 系统长时间 NumK,(init) 当新的请求到来系统将其挂至当前会话控制块的请求队, 负载较轻时系统检查超时的线程并销毁但维护池中最低数目 ,,列中并将该会话状态修改为等待运行状态线程池取得该会话 ,,的线程数 且有 可调整为维 当负载增加时Num,Num>=1()。 ,(min)(min)并 从工 作 线 程队 列 中 选择 一 个 处于 空 闲 状态 的 线 程处 理 当 前 护系统性能的稳定系统首先判断当前线程数是否小于 如 ,Num,(init)的会话工作线程对该会话的消息队列中的消息进行处理后将 , 果 小 于 这 个 数 目 则 创 建 至 数 目 的 线 程 修 改 Num , Num = (init) (cur) 这 一结 果 发 送至 一 台 进行 计 算 任务 的 计 算机 进 行 数据 运 算 和 如果当前数目大于 采取对数幂级缓慢增长策略Num。 Num,。 (init)(init)处理处理后将结果返回给当前服务器服务器对其处理后挂至 ,,当初始的线程数目不能满足需要时需要加大线程池的概, 该会话队列响应处理线程将结果返回客户线程池处理过程主 率如下假定线程池数目需增大的概率为 平均需要创建线程 ,。 :p, 的次数: 要涉及任务请求的分配工作线程分配和调度负载均衡线程 、、、创建 次 数为 创 建 次 数 为 创 建 W = 1×p[1] + 2×p[2] + 3×p[ 状态转换等处理。 次数为 3]+ … 工作线程处理后集群接入点利用动态反馈法将结果发送 , 2 3 23至计算服务器在发送消息至计算服务器集群之前集群接入点 = p (1-p) + 2p(1-p) + 3p(1-p) + … = p+p+p+… = p/(1-p) ., 由 的定义知值大小取决于 若 取值合理先 发送 一 个 负载 信 息 探测 帧 至 每个 计 算 服务 器 请 求计 算 服 务 p ,p Num,Num, (init)(init)则需再次创建线程的次数少则 值较小反之若 取值不 ,p ,Num(init)合理则 值较大则 系 统 将要 频 繁 的创 建 线 程影 响 系 统性 能 p ,,。 取值的合理性指当前线程池中的线程是否能满足当前请 Num(init) 器的负载信息 计算服务器返回负载信息 接入点服务器会从中, , 求处理的需求的取值有下列情况。 p : 选择负载最低的服务器继续处理工作线程处理后的计算结果。当 时值越小不需要再次创建线程池中线程 1、p?[0,1/2),p ,, 接 入 点 模 型 在 电 信 业 务 支 撑 系 统满足系统的处理需求可以销毁部 当然此时可能池中线程较多。 ,5 分线程趋近于 时则 取值越合理算法接近于线 当 。 p 1/2 ,Num,(nt)ii 的应用测试及分析、 程数目固定的线程池系统负载较好性能稳定,,; 集群接入点模型将用于电信网 号信令 协 议 解 析服 7 CAP 当 表明池中 不合理需重新创 建 线 程2、p[1/2,1),Num,。 ?(init)务器系统组网如上图 所示台计算机分别安 测试环境为 ,2 。 5 ,由 知随 的增加增长渐缓但 Num= logNum ,i ,Num,Num () (i+1)(cur)() ()iii装 信令板卡台为 普通 其中 台计算机 dialogic ,4 windows PC, 1 模拟 主 要 向服 务 器 发送 号 信 令 协 议一 种 电 信 协 MSC,7 CAP ( 议消 息另 一台 是 高 级 服 务 器 版 模 拟 信 令 服 务 ),Linux Red Hat 器另外 台模拟计算服务器集群分别以固定线程池初始线程 ,3 ,数目和线程池内线程数目动态变化进行测试如下图 图 所示,3、4 : (school of software, Hunan University, Changsha 410082, C P China) WANG Jun-feng XIE Dong-qing U 通讯地址湖南长沙 湖南大学软件学院王俊峰:(410082 ) (收稿日期:2009.07.15(修稿日期):2009.08.15)? 上接第 页 (132 ) 结束语4 研究针对双边多议题自动协商系统展开通过分析基于的, 图 每秒钟任务数与 利用率图3 cup 双边多议题自动协商模型细分了协 首先通过自动协商的阐述。 ,? 商属性的类型特征对不同的多属性协商 流程 快递问题件怎么处理流程河南自建厂房流程下载关于规范招聘需求审批流程制作流程表下载邮件下载流程设计 特征进行了分析,。 文章扩展了传统方法中的效用函数的构建模型提出了更加切 , 合实际情况的多属性效用函数能够更好的完成对多属性自动 , þ协商的效用函数构建工作有利于对效用函数的拟和和应用本 ,。 研究成果在具有较好的理论意义和实用价值。 % 本文作者创新点扩展了传统方法中的效用函数的构建模 : m 型针对不同属性的作用特征提出了更加切合属性之间关联关 ,,s 系的效用函数模型能够更好的完成对多属性自动协商的效用 , 函数构建工作。 参考文献图 系统请求任务数与平均处理时间图4 [1]Oliver, J.R.A Machine-Learning Approachto Automated N ego, 线程数目固定的线程池和线程从上述测试结果分析表明, tiation and Prospectsfor Electronic Commerce. Journal of Manag,e 数目动态变化的线程池都能很好的维护系统的性能在轻负载 , ment Information System. 13(2):83-122,1997. 时线程数目固定的线程池和动态数目的线程池性能差别不大,, [2]Lei, Y, Feng, Y.Q,Wei,Q.and Yang L.Adding Argumentin Au, 但是在负载较重时基于对数幂渐增算法的动态变化的线程池 , tomated Negotiation Systemto Support Flexible Negotiation. , Pro表现了较好的性能同样线程池线程初始数目和支持的最大数 。 ceedingof the First International Conferenceon Machine Learning 目的选择也是很重要的数目过大会出现调度和同步线程开销 , and Cybernetice. Beijing, China. Novermber 3(3): 14191422 ,2002. -过大问题数目过小性能不能很好的发挥,。 陈德军 李婷 周祖德基于多 自动协商的电子商务系统[3],Agent 研究微计算机信息 [J]. 2007,7-3:23. [4]D.G. Pruitt. Negotiation Behavior. Academic Press, 1981. 小结 学校三防设施建设情况幼儿园教研工作小结高血压知识讲座小结防范电信网络诈骗宣传幼儿园师德小结 6 “[5]Byte, A, Kay -Yin Chen AutONA: A System for Automated 线程池技术在服务器端程序设计领域有广泛的应用特别, ”Multiple 1 -1Negotiation, FourthA CM Conference on Electronic 是线程数目动态变化的线程池技术的研究和应用也相当深入 。 Commerce,198 -199,2003. 线程数 目 固 定的 线 程 池和 动 态 变化 线 程 池可 依 据 具体 业 务 需 [6]Y. In, R.Serrano. Agenda Restrictions in Multi -Issue Bargai,n 求进行选择本文运用对数幂渐增算法设计的动态线程池服务 , ing. Journal of Economic Behavior and Organization, 53:385- 器集群 接 入 点解 决 方 案在 请 求 响应 服 务 模型 设 计 方面 有 重 要 399,2004. 的应用和参考价值。 作者简介张振文男内蒙古包头市人博士研究生华中 : (1976-),,,,本文创新点本文研究高级动态线程池提出基于对数幂渐 : 科技大学系统 工程 路基工程安全技术交底工程项目施工成本控制工程量增项单年度零星工程技术标正投影法基本原理 研究所主要研究方向协商理论与方法系统 ,:,增变化算法的动态线程池本方案结合固定线程池能维护系统 , 工程理论与方法。 性能稳 定 和 动态 线 程 池可 以 适 应请 求 动 态变 化 的 优点 设 计 了 Biography: ZHANG Zhen wen 197(6 ), Male, Inner mongolia, ---一个既能维护系统性能稳定又能适应突发任务请求的线城池。 Institute of System En gineering, Huazhong Uivnersity of Science 项目经济效益万元 : 8 and eTchnology, doctoral candidate, Negotiation theory and 参考文献 method, Systenmgi neeer theory and emthod. [1]DongpingXu. Performance Study and Dynamic Optimization - De 湖北武汉 华中科技大学系统工程研究所张振文 (430074 ) signfor Thread Pool Systems[EB/OL],2004 陈学广 张林兰 洪 流张珏璐徐国治线程池技术在 网络通信中的应用研究[2],. J2ME . 微计算机信息,2007(27):127-129 (Institute of System Engineering, HuazhongUniversity of Sci- 吴炜荣梁阿磊吴 刚基于 线程库的线程池反馈算法 [3],,. POSIX enceand Technology,Wuhan 430074,ChinZHANGa) Zhen-wen 的设计与实现微型电脑应用. , 2006(05):52-55,58 CHEN Xue-guang ZHANG Lin-lan HONG Liu 作者简介王俊峰男河南三门峡人硕士研究生主要研 : (1979-),,,,通 讯 地 址湖 北 武 汉 华 中 科 技 大 学 系 统 工 程 研 究 所 :(430074 )究方向网络与信息安全谢冬青男湖南益阳人博士生 :; (1965-),,,张振文 导师主要研究方向信息安全,:。 收稿日期修稿日期(:2009.07.15():2009.08.15) Biography: WANG Jun - feng ( 1979 - ),male, SanMenXia, Henan Province. school of software, Hunan ivUernsity,Garduate Student. Research area:Network and Information Security. 您的才+ 阅读本能= 您的财富刊 谢冬青湖南长沙 湖南大学软件学院王俊峰(410082 )