线程池是一种多线程处理形式,处理过程中将任务添加到队列,然后在创建线程后自动启动这些任务。线程池线程都是后台线程。每个线程都使用默认的堆栈大小,以默认的优先级运行,并处于多线程单元中。如果某个线程在托管代码中空闲(如正在等待某个事件),则线程池将插入另一个辅助线程来使所有处理器保持繁忙。如果所有线程池线程都始终保持繁忙,但队列中包含挂起的工作,则线程池将在一段时间后创建另一个辅助线程但线程的数目永远不会超过最大值。超过最大值的线程可以排队,但他们要等到其他线程完成后才启动。

任务调度以执行线程的常见方法是使用同步队列,称作任务队列。池中的线程等待队列中的任务,并把执行完的任务放入完成队列中。

中文名

线程池

外文名

thread pool

类 别

多线程处理形式

适用范围

互联网

简介

线程池(英语:thread pool):一种线程使用模式。线程过多会带来调度开销,进而影响缓存局部性和整体性能。而线程池维护着多个线程,等待着监督管理者分配可并发执行的任务。这避免了在处理短时间任务时创建与销毁线程的代价。线程池不仅能够保证内核的充分利用,还能防止过分调度。可用线程数量应该取决于可用的并发处理器、处理器内核、内存、网络sockets等的数量。 例如,线程数一般取cpu数量+2比较合适,线程数过多会导致额外的线程切换开销。

任务调度以执行线程的常见方法是使用同步队列,称作任务队列。池中的线程等待队列中的任务,并把执行完的任务放入完成队列中。

线程池模式一般分为两种:HS/HA半同步/半异步模式、L/F领导者与跟随者模式。

半同步/半异步模式又称为生产者消费者模式,是比较常见的实现方式,比较简单。分为同步层、队列层、异步层三层。同步层的主线程处理工作任务并存入工作队列,工作线程从工作队列取出任务进行处理,如果工作队列为空,则取不到任务的工作线程进入挂起状态。由于线程间有数据通信,因此不适于大数据量交换的场合。

领导者跟随者模式,在线程池中的线程可处在3种状态之一:领导者leader、追随者follower或工作者processor。任何时刻线程池只有一个领导者线程。事件到达时,领导者线程负责消息分离,并从处于追随者线程中选出一个来当继任领导者,然后将自身设置为工作者状态去处置该事件。处理完毕后工作者线程将自身的状态置为追随者。这一模式实现复杂,但避免了线程间交换任务数据,提高了CPU cache相似性。在ACE(Adaptive Communication Environment)中,提供了领导者跟随者模式实现。

线程池的伸缩性对性能有较大的影响。

创建太多线程,将会浪费一定的资源,有些线程未被充分使用。

销毁太多线程,将导致之后浪费时间再次创建它们。

创建线程太慢,将会导致长时间的等待,性能变差。

销毁线程太慢,导致其它线程资源饥饿。

组成部分

服务器程序利用线程技术响应客户请求已经司空见惯,可能您认为这样做效率已经很高,但您有没有想过优化一下使用线程的方法。该文章将向您介绍服务器程序如何利用线程池来优化性能并提供一个简单的线程池实现。

1、线程池管理器(ThreadPoolManager):用于创建并管理线程池

2、工作线程(WorkThread): 线程池中线程

3、任务接口(Task):每个任务必须实现的接口,以供工作线程调度任务的执行。

4、任务队列:用于存放没有处理的任务。提供一种缓冲机制。

技术背景

在面向对象编程中,创建和销毁对象是很费时间的,因为创建一个对象要获取内存资源或者其它更多资源。在Java中更是如此,虚拟机将试图跟踪每一个对象,以便能够在对象销毁后进行垃圾回收。所以提高服务程序效率的一个手段就是尽可能减少创建和销毁对象的次数,特别是一些很耗资源的对象创建和销毁。如何利用已有对象来服务就是一个需要解决的关键问题,其实这就是一些"池化资源"技术产生的原因。比如大家所熟悉的数据库连接池正是遵循这一思想而产生的,本文将介绍的线程池技术同样符合这一思想。

目前,一些著名的大公司都特别看好这项技术,并早已经在他们的产品中应用该技术。比如IBM的WebSphere,IONA的Orbix 2000在SUN的 Jini中,Microsoft的MTS(Microsoft Transaction Server 2.0),COM+等。

功能

应用程序可以有多个线程,这些线程在休眠状态中需要耗费大量时间来等待事件发生。其他线程可能进入睡眠状态,并且仅定期被唤醒以轮循更改或更新状态信息,然后再次进入休眠状态。为了简化对这些线程的管理,.NET框架为每个进程提供了一个线程池,一个线程池有若干个等待操作状态,当一个等待操作完成时,线程池中的辅助线程会执行回调函数。线程池中的线程由系统管理,程序员不需要费力于线程管理,可以集中精力处理应用程序任务。

传递参数

调用QueueUserWorkItem时传入的Object类型参数传递到任务过程,可以通过这种方式来向任务过程传递参数。如果任务过程需要多个参数,可以定义包含这些数据的类,并将其强制转换为Object数据类型。

应用范围

1、需要大量的线程来完成任务,且完成任务的时间比较短。 WEB服务器完成网页请求这样的任务,使用线程池技术是非常合适的。因为单个任务小,而任务数量巨大,你可以想象一个热门网站的点击次数。 但对于长时间的任务,比如一个Telnet连接请求,线程池的优点就不明显了。因为Telnet会话时间比线程的创建时间大多了。

2、对性能要求苛刻的应用,比如要求服务器迅速响应客户请求。

3、接受突发性的大量请求,但不至于使服务器因此产生大量线程的应用。突发性大量客户请求,在没有线程池情况下,将产生大量线程,虽然理论上大部分操作系统线程数目最大值不是问题,短时间内产生大量线程可能使内存到达极限,并出现"OutOfMemory"的错误。

示例

线程池

//线程池示例

using System;

using System.Threading;

 

public classTest

{

    //存放要计算的数值的字段

    static double number1 = -1;

    static double number2 = -1;

 

    public static void Main()

    {

        //获取线程池的最大线程数和维护的最小空闲线程数

        int maxThreadNum, minThreadNum;

        int portThreadNum;

         

        ThreadPool.GetMaxThreads(out maxThreadNum, out portThreadNum);

        ThreadPool.GetMinThreads(out minThreadNum, out portThreadNum);

        Console.WriteLine("最大线程数:{0}", maxThreadNum);

        Console.WriteLine("最小线程数:{0}", minThreadNum);

         

        //函数变量值

        int x=15600;

        //启动第一个任务:计算x的8次方

        Console.WriteLine("启动第一个任务:计算{0}的8次方。", x);

        ThreadPool.QueueUserWorkItem(new WaitCallback(TaskProc1), x);

         

        //启动第二个任务:计算x的8次方根

        Console.WriteLine("启动第二个任务:计算{0}的8次方根。", x);

        ThreadPool.QueueUserWorkItem(new WaitCallback(TaskProc2), x);

         

        //等待,直到两个数值都完成计算

        while(number1 == -1 || number2 == -1);

        //打印计算结果

        Console.WriteLine("y({0}) = {1}", x, number1 + number2);

        Console.Read();

    }

     

    //启动第一个任务:计算x的8次方

    static void TaskProc1(object o)

    {

        number1 = Math.Pow(Convert.ToDouble(o), 8);

    }

     

    //启动第二个任务:计算x的8次方根

    static void TaskProc2(object o)

    {

        number2 = Math.Pow(Convert.ToDouble(o), 1.0/8.0);

    }

}

池结构

[HostProtection(SecurityAction.LinkDemand,Synchronization=true,ExternalThreading=true)]

 

public static class ThreadPool

{

[Obsolete("ThreadPool.BindHandle(IntPtr)hasbeendeprecated.PleaseuseThreadPool.BindHandle(SafeHandle)instead.",false),SecurityPermission(SecurityAction.Demand,Flags=SecurityPermissionFlag.UnmanagedCode)]

public static bool BindHandle(IntPtr osHandle)

{

    if(osHandle == null){throw new ArgumentNullException("osHandle");}

    bool flag = false;

    bool success = false;

    RuntimeHelpers.PrepareConstrainedRegions();

    try

    {

        osHandle.DangerousAddRef(ref success);

        flag = BindIOCompletionCallbackNative(osHandle.DangerousGetHandle());

    }

    finally

    {

        if(success)

            osHandle.DangerousRelease();

    }

    return flag;

}