服务架构模式——TPCPPC模式

图解IO模型——BIO，NIO，AIO
服务架构模式——TPC/PPC模式
服务架构模式——单Reactor模式
服务架构模式——多Reactor模式
服务架构模式——Proactor模式

TPC/PPC模式是最简单的服务端架构模式，IO模式采用BIO，为每个连接创建一个线程进行请求处理。

TPC: Thread per-connection
当收到客户端连接时，服务端为每个客户端创建一个新的线程，一个线程处理一个客户端的请求。

另外还有一种PPC(Process per-connection)模式, 为每个客户端创建一个新“进程”，架构模式和TPC类似，只是把线程换成进程。

serverSocketaccept()监听客户端请求，当有客户端请求到达时，创建一个新线程处理客户端请求

这种模式的优点是开发简单，适合连接数比较少的场景。当连接数较多时，服务端需要创建大量的线程，而服务端线程数量不可能无限制增加，因此使用线程池进行改进。

设定worker线程池，当收到客户端请求时，先放入请求队列，由worker线程从队列中取出请求进行处理，然后返回响应给客户端 。

设立一个worker线程池，当有客户端请求到达时，创建一个新runnable对象，放到worker线程池中处理。

这种架构模式可以固定worker线程池的大小，防止由于并发请求量大导致服务端线程数量超限。当然也有缺点，当请求数量过多时，大量请求会积压在请求队列中，导致请求延迟增加。

摘　要　本课题在牡丹江师范学院已有的在线评测系统上进行全面重构，将 OJ 系统各个组成部分进行解耦，使得 OJ 系统各个模块之间独立性增强，容易修改现有功能及扩充新功能，以应对举办比赛时的访问压力。包括本课题的系统架构设计，对其下各个模块核心内容的阐述，包括基于 Linux 系统的沙箱模型、基于 Java 的多线程服务器、基于AMP 架构和 MVC 设计模式的 Web 前端系统的设计与实现，以及影响系统安全的各种因素和对应的解决方案。
关键词　在线评测系统　ACM/ICPC LAMP　架构
中图分类号：TP31152　文献标识码：A
0 绪论
ACM/ICPC 目的旨在使大学生运用计算机来充分展示自己分析问题和解决问题的能力。在线评测系统(Online Judge System，以下简称 OJ）起到了非常重要的作用。集训队员可以在线评测系统上挑选各种题目挑战自我，提高自我，学习各种数据结构和算法；在统一组织的集中训练中可以通过指定题目的形式来强化训练效果；而在线评测系统对比赛功能的支持，进一步提高了集训队员的学习热情，同时还可以模拟比赛的环境，培养那些计划参与 ACM/ICPC 赛事的队伍的团结合作能力。
但是其中大部分OJ 系统是闭源、封闭的，无法获取其源代码进行修改扩充以满足现有需求，牡丹江师范学院 ACM/ICPC 集训队才于 2010 年推出自己的OJ。但是该系统存在几个问题：一，效率不足，无法承受每年牡丹江师范学院程序设计大赛预选赛的压力；二，由于该系统没有应用沙箱技术运行用户代码，存在安全隐患，可能直接导致服务器被劫持。此后，Google Code 上陆续出现了几个开源 OJ 系统，但是在架构设计上仍不够完善，且无法与原系统的数据格式兼容，因此，有必要重新开发一个经过合理设计的新 OJ 系统，从根本上解决上述的问题，为集训队提供一个稳定可用的学习环境。
1 系统架构设计
为了方便用户的使用，本系统采用 B/S 架构，只要用户使用的是有网络接入的计算机，就可以通过浏览器进行访问。根据该系统的具体情况，在设计上将其分为以下四个组成部分：（1）网站系统（Web 端）；（2）评测核心（Judge）；（3）评测核心封装层（Judge Wrapper）；监听守护进程（Daemon）。
在设计上，该项目将系统的几个主要组成模块充分解耦，一方面，多个模块之间可以并行开发；另一方面，各个模块解耦后使得系统的修改和扩充更加容易，每个模块的可重用性也相应增强。例如，当其他学校需要实现一个功能界面完全不同的 OJ 系统或是作业平台时，可以直接采用本项目的评测核心，避免重复开发。
2 评测核心的设计与实现
作为在线评测系统中最核心的部分，尤其是需要监控用户运行，需要涉及到很多相关技术，特别是与系统底层关系密切的技术。在 Linux 下，系统调用的实现通常是用户程序通过触发80号软中断或者执行 SYSCALL/SYSENTER 等平台相关的 CPU 指令陷入到内核中，内核通过寄存器获 取用户程序的输入，在通过严格的检查后执行相应 *** 作。
在本系统中涉及的主要系统调用包括 fork、setitimer、execve、wait、ptrace、setrlimit、chroot、setuid 等。
（1）fork 系统调用通过复制调用进程的上下文来创建一个新进程。（2）setitimer 系统调用用于设置定时器。（3）execve 系统调用用于载入一个新的可执行程序，替换当前进程的地址空间。（4）wait 系统调用允许父进程阻塞，直到子进程发生一些事件。（5）ptrace 系统调用是一个可以使父进程在用户层拦截和修改系统调用的函数，可以监控和控制其他进程，该函数还能够改变子进程中的寄存器和内核映像，因而可以实现断点调试和系统调用的跟踪。（6）setrlimit 系统调用可以改变进程的资源限制。（7）chroot 系统调用使得调用进程的将某一目录当作其根目录，以此限制该进程及子进程对该目录外文件的访问。（8）setuid 系统调用允许进程改变其有效用户 ID。在本系统中，用户提交的代码可能存在恶意，对其编译后的程序需要运行在服务器上，因此必须对其进行严密的监控，防止恶意代码带来的危害。在本系统支持的四种语言中，C、C++、Pascal 三者经过编译后产生本地代码，可以通过Linux 系统调用（主要是 fork、execve、chroot、setuid 和 ptrace）来创建一个沙箱，限制恶意代码访问文件、控制系统的权限，尤其是通过 ptrace 来限制可使用的系统调用，在很大程度上保证了系统的安全。
运行时检测是最重要、最复杂的运行时监控机制。本系统中通过 ptrace 系统调用来监控用户进程。每当用户进程出发一个系统调用，或者是收到某些信号的时候，用户进程会将控制权暂时移交给监控核心。监控核心将严格监控用户进程的各项参数，以保证其不执行危害系统安全的 *** 作：（1）检查程序是否正常退出。（2）检查程序是否收到了非正常的信号。（3）通过进程的缺页中断次数计算进程使用的内存资源是否超出限制。（4）检查进程系统调用是否合法。
在以上四项检测都不存在问题的情况下，用户进程才能继续执行。
由于题目根据其合法结果数量可以分成普通类型和 Special Judge 类型，因此针对不同的类型，需要分别对其进行判断。（1）普通类型的题目，其合法结果唯一，因此只需要简单判断用户程序与标准答案的一致性即可。（2）Special Judge 类型的题目，在本系统中，约定了 SPJ 程序的名称以及数据的传递方式，包括标准输出、用户输出，以及 SPJ 程序的数据，由评测核心调用 SPJ 程序来完成最后的评判过程。
3 评测核心层的设计与实现
每当用户提交一份新的代码，Wrapper 即会被调用，从数据库中获取代码的详细信息。在此阶段需要关注的信息主要包括：（1）用户提交的代码本身及其关键属性（如语言类型）。（2）此代码的提交用户类型，是普通用户还是管理员。（3）此代码所属的题目是否处于正在进行的比赛。（4）此代码是否已经被评测过。

绘制大学生心理健康监测系统的网络拓扑图可以按照以下步骤进行：
1、确定拓扑结构：首先需要确定监测系统的拓扑结构，例如可以采用星型拓扑、环型拓扑或者总线拓扑等结构。
2、绘制网络设备：根据拓扑结构，绘制网络设备的位置和连接方式，例如服务器、路由器、交换机、防火墙等。
3、绘制系统组成部分：在网络设备的基础上，绘制大学生心理健康监测系统的各个组成部分，例如客户端、服务器端、数据库等。
4、绘制数据流向：确定各个组成部分之间的数据流向，例如客户端向服务器发送请求，服务器从数据库中获取数据等。
5、标注设备名称和IP地址：在拓扑图中标注每个设备的名称和IP地址，以便于管理和维护。
6、添加注释和说明：在拓扑图中添加必要的注释和说明，例如每个设备的功能、数据流向、网络通信协议等。
7、优化拓扑图：最后需要对拓扑图进行优化和美化，使其更加清晰、易读和美观。

B/S结构（Browser/Server，浏览器/服务器模式）：是WEB兴起后的一种网络结构模式，WEB浏览器是客户端最主要的应用软件。这种模式统一了客户端，将系统功能实现的核心部分集中到服务器上，简化了系统的开发、维护和使用。

B/S最大的优点就是可以在任何地方进行 *** 作而不用安装任何专门的软件。只要有一台能上网的电脑就能使用，客户端零维护。系统的扩展非常容易。

C/S与B/S区别

1．硬件环境不同：

C/S一般建立在专用的网络上，小范围里的网络环境，局域网之间再通过专门服务器提供连接和数据交换服务。

B/S建立在广域网之上的，不必是专门的网络硬件环境，例与电话上网，租用设备信息自己管理有比C/S更强的适应范围，一般只要有 *** 作系统和浏览器就行。

2．对安全要求不同

C/S一般面向相对固定的用户群，对信息安全的控制能力很强。一般高度机密的信息系统采用C/S结构适宜。可以通过B/S发布部分可公开信息。

B/S建立在广域网之上，对安全的控制能力相对弱，可能面向不可知的用户。

3．对程序架构不同

C/S程序可以更加注重流程，可以对权限多层次校验，对系统运行速度可以较少考虑。

B/S对安全以及访问速度的多重的考虑，建立在需要更加优化的基础之上比C/S有更高的要求B/S结构的程序架构是发展的趋势，从MS的Net系列的BizTalk2000Exchange2000等，全面支持网络的构件搭建的系统。SUN和IBM推JavaBean构件技术等，使B/S更加成熟。

4．软件重用不同

C/S程序可以不可避免的整体性考虑，构件的重用性不如在B/S要求下的构件的重用性好。

B/S对的多重结构，要求构件相对独立的功能能够相对较好的重用就入买来的餐桌可以再利用，而不是做在墙上的石头桌子

5．系统维护不同

C/S程序由于整体性，必须整体考察，处理出现的问题以及系统升级升级难可能是再做一个全新的系统

B/S构件组成，方面构件个别的更换，实现系统的无缝升级系统维护开销减到最小用户从网上自己下载安装就可以实现升级。

6．处理问题不同

C/S程序可以处理用户面固定，并且在相同区域，安全要求高需求，与 *** 作系统相关应该都是相同的系统。

B/S建立在广域网上，面向不同的用户群，分散地域，这是C/S无法作到的。与 *** 作系统平台关系最小。7．用户接口不同。

C/S多是建立的Window平台上，表现方法有限，对程序员普遍要求较高。

B/S建立在浏览器上，有更加丰富和生动的表现方式与用户交流并且大部分难度减低，减低开发成本。

8．信息流不同

C/S程序一般是典型的中央集权的机械式处理，交互性相对低。

B/S信息流向可变化，B-BB-CB-G等信息、流向的变化，更像交易中心。实际应用B/S结构的OA系统B/S结构在城市消防联网

大数据数量庞大，格式多样化。大量数据由家庭、制造工厂和办公场所的各种设备、互联网事务交易、社交网络的活动、自动化传感器、移动设备以及科研仪器等生成。它的爆炸式增长已超出了传统IT基础架构的处理能力，给企业和社会带来严峻的数据管理问题。因此必须开发新的数据架构，围绕“数据收集、数据管理、数据分析、知识形成、智慧行动”的全过程，开发使用这些数据，释放出更多数据的隐藏价值。

一、大数据建设思路

1）数据的获得

大数据产生的根本原因在于感知式系统的广泛使用。随着技术的发展，人们已经有能力制造极其微小的带有处理功能的传感器，并开始将这些设备广泛的布置于社会的各个角落，通过这些设备来对整个社会的运转进行监控。这些设备会源源不断的产生新数据，这种数据的产生方式是自动的。因此在数据收集方面，要对来自网络包括物联网、社交网络和机构信息系统的数据附上时空标志，去伪存真，尽可能收集异源甚至是异构的数据，必要时还可与历史数据对照，多角度验证数据的全面性和可信性。

2）数据的汇集和存储

互联网是个神奇的大网，大数据开发和软件定制也是一种模式，这里提供最详细的报价，如果你真的想做，可以来这里，这个手机的开始数字是一八七中间的是三儿零最后的是一四二五零，按照顺序组合起来就可以找到，我想说的是，除非你想做或者了解这方面的内容，如果只是凑热闹的话，就不要来了

数据只有不断流动和充分共享，才有生命力。应在各专用数据库建设的基础上，通过数据集成，实现各级各类信息系统的数据交换和数据共享。 数据存储要达到低成本、低能耗、高可靠性目标，通常要用到冗余配置、分布化和云计算技术，在存储时要按照一定规则对数据进行分类，通过过滤和去重，减少存储量，同时加入便于日后检索的标签。

3）数据的管理

大数据管理的技术也层出不穷。在众多技术中，有6种数据管理技术普遍被关注，即分布式存储与计算、内存数据库技术、列式数据库技术、云数据库、非关系型的数据库、移动数据库技术。其中分布式存储与计算受关注度最高。上图是一个图书数据管理系统。

4）数据的分析

数据分析处理：有些行业的数据涉及上百个参数，其复杂性不仅体现在数据样本本身，更体现在多源异构、多实体和多空间之间的交互动态性，难以用传统的方法描述与度量，处理的复杂度很大，需要将高维图像等多媒体数据降维后度量与处理，利用上下文关联进行语义分析，从大量动态而且可能是模棱两可的数据中综合信息，并导出可理解的内容。大数据的处理类型很多，主要的处理模式可以分为流处理和批处理两种。批处理是先存储后处理，而流处理则是直接处理数据。挖掘的任务主要是关联分析、聚类分析、分类、预测、时序模式和偏差分析等。

5）大数据的价值：决策支持系统

大数据的神奇之处就是通过对过去和现在的数据进行分析，它能够精确预测未来；通过对组织内部的和外部的数据整合，它能够洞察事物之间的相关关系；通过对海量数据的挖掘，它能够代替人脑，承担起企业和社会管理的职责。

6）数据的使用

大数据有三层内涵：一是数据量巨大、来源多样和类型多样的数据集；二是新型的数据处理和分析技术；三是运用数据分析形成价值。大数据对科学研究、经济建设、社会发展和文化生活等各个领域正在产生革命性的影响。大数据应用的关键，也是其必要条件，就在于"IT"与"经营"的融合，当然，这里的经营的内涵可以非常广泛，小至一个零售门店的经营，大至一个城市的经营。

二、大数据基本架构

基于上述大数据的特征，通过传统IT技术存储和处理大数据成本高昂。一个企业要大力发展大数据应用首先需要解决两个问题：一是低成本、快速地对海量、多类别的数据进行抽取和存储；二是使用新的技术对数据进行分析和挖掘，为企业创造价值。因此，大数据的存储和处理与云计算技术密不可分，在当前的技术条件下，基于廉价硬件的分布式系统（如Hadoop等）被认为是最适合处理大数据的技术平台。

Hadoop是一个分布式的基础架构，能够让用户方便高效地利用运算资源和处理海量数据，目前已在很多大型互联网企业得到了广泛应用，如亚马逊、Facebook和Yahoo等。其是一个开放式的架构，架构成员也在不断扩充完善中，通常架构如图2所示：

Hadoop体系架构

（1）Hadoop最底层是一个HDFS（Hadoop Distributed File System，分布式文件系统），存储在HDFS中的文件先被分成块，然后再将这些块复制到多个主机中（DataNode，数据节点）。

（2）Hadoop的核心是MapReduce（映射和化简编程模型）引擎，Map意为将单个任务分解为多个，而Reduce则意为将分解后的多任务结果汇总，该引擎由JobTrackers（工作追踪，对应命名节点）和TaskTrackers（任务追踪，对应数据节点）组成。当处理大数据查询时，MapReduce会将任务分解在多个节点处理，从而提高了数据处理的效率，避免了单机性能瓶颈限制。

（3）Hive是Hadoop架构中的数据仓库，主要用于静态的结构以及需要经常分析的工作。Hbase主要作为面向列的数据库运行在HDFS上，可存储PB级的数据。Hbase利用MapReduce来处理内部的海量数据，并能在海量数据中定位所需的数据且访问它。

（4）Sqoop是为数据的互 *** 作性而设计，可以从关系数据库导入数据到Hadoop，并能直接导入到HDFS或Hive。

（5）Zookeeper在Hadoop架构中负责应用程序的协调工作，以保持Hadoop集群内的同步工作。

（6）Thrift是一个软件框架，用来进行可扩展且跨语言的服务的开发，最初由Facebook开发，是构建在各种编程语言间无缝结合的、高效的服务。

Hadoop核心设计

Hbase——分布式数据存储系统

Client：使用HBase RPC机制与HMaster和HRegionServer进行通信

Zookeeper：协同服务管理，HMaster通过Zookeepe可以随时感知各个HRegionServer的健康状况

HMaster: 管理用户对表的增删改查 *** 作

HRegionServer：HBase中最核心的模块，主要负责响应用户I/O请求，向HDFS文件系统中读写数据

HRegion:Hbase中分布式存储的最小单元，可以理解成一个Table

HStore：HBase存储的核心。由MemStore和StoreFile组成。

HLog：每次用户 *** 作写入Memstore的同时，也会写一份数据到HLog文件

结合上述Hadoop架构功能，大数据平台系统功能建议如图所示：

应用系统：对于大多数企业而言，运营领域的应用是大数据最核心的应用，之前企业主要使用来自生产经营中的各种报表数据，但随着大数据时代的到来，来自于互联网、物联网、各种传感器的海量数据扑面而至。于是，一些企业开始挖掘和利用这些数据，来推动运营效率的提升。

数据平台：借助大数据平台，未来的互联网络将可以让商家更了解消费者的使用惯，从而改进使用体验。基于大数据基础上的相应分析，能够更有针对性的改进用户体验，同时挖掘新的商业机会。

数据源：数据源是指数据库应用程序所使用的数据库或者数据库服务器。丰富的数据源是大数据产业发展的前提。数据源在不断拓展，越来越多样化。如：智能汽车可以把动态行驶过程变成数据，嵌入到生产设备里的物联网可以把生产过程和设备动态状况变成数据。对数据源的不断拓展不仅能带来采集设备的发展，而且可以通过控制新的数据源更好地控制数据的价值。然而我国数字化的数据资源总量远远低于美欧，就已有有限的数据资源来说，还存在标准化、准确性、完整性低，利用价值不高的情况，这降低了数据的价值。

三、大数据的目标效果

通过大数据的引入和部署，可以达到如下效果：

1）数据整合

·统一数据模型：承载企业数据模型，促进企业各域数据逻辑模型的统一；

·统一数据标准：统一建立标准的数据编码目录，实现企业数据的标准化与统一存储；

·统一数据视图：实现统一数据视图，使企业在客户、产品和资源等视角获取到一致的信息。

2）数据质量管控

·数据质量校验：根据规则对所存储的数据进行一致性、完整性和准确性的校验，保证数据的一致性、完整性和准确性；

·数据质量管控：通过建立企业数据的质量标准、数据管控的组织、数据管控的流程，对数据质量进行统一管控，以达到数据质量逐步完善。

3）数据共享

·消除网状接口，建立大数据共享中心，为各业务系统提供共享数据，降低接口复杂度，提高系统间接口效率与质量；

·以实时或准实时的方式将整合或计算好的数据向外系统提供。

4）数据应用

·查询应用：平台实现条件不固定、不可预见、格式灵活的按需查询功能；

·固定报表应用：视统计维度和指标固定的分析结果的展示，可根据业务系统的需求，分析产生各种业务报表数据等；

·动态分析应用：按关心的维度和指标对数据进行主题性的分析，动态分析应用中维度和指标不固定。

四、总结

基于分布式技术构建的大数据平台能够有效降低数据存储成本，提升数据分析处理效率，并具备海量数据、高并发场景的支撑能力，可大幅缩短数据查询响应时间，满足企业各上层应用的数据需求。

---