【NJU OS】07 真实世界的并发编程

高性能计算中的并发编程

高性能计算程序：特点

• 系统模拟：天气预报、能源、分子生物学
• 人工智能：神经网络训练
• 矿厂：纯粹的 hash 计算
• HPC-China 100

高性能计算：主要挑战

计算任务如何分解？

• 计算图需要容易并行化
  • 机器-线程两级任务分解
• 生产者-消费者解决一切
  • MPI - “a specification for the developers and users of message passing libraries”, OpenMP - “multi-platform shared-memory parallel programming in C/C++ and Fortran”
• Parallel and Distributed Computation: Numerical Methods

线程间如何通信

• 通信不仅发生在节点/线程之间，还发生在任何共享内存访问
• 还记得被 mem-ordering.c 支配的恐惧吗？

数据中心里的并发编程

数据中心程序：特点

以数据 (存储) 为中心

• 从互联网搜索 (Google)、社交网络 (Facebook/Twitter) 起家
• 支撑各类互联网应用：微信/QQ/支付宝/游戏/网盘/……

算法/系统对 HPC 和数据中心的意义

• 你有 1,000,000 台服务器
• 如果一个算法/实现能快 1%，就能省 10,000 台服务器 一套房 ≈ 50 台服务器(不计运维成本)

数据中心：主要挑战

多副本情况下的高可靠、低延迟数据访问

• 在服务海量地理分布请求的前提下
  • 数据要保持一致 (Consistency)
  • 服务时刻保持可用 (Availability)
  • 容忍机器离线 (Partition tolerance)

如何用一台 (可靠的) 计算机尽可能多地服务并行的请求

• 关键指标：QPS, tail latency, …

我们有的工具

• 线程 (threads)
• 协程 (coroutines)
  • 多个可以保存/恢复的执行流 (M2 - libco)
  • 比线程更轻量 (完全没有系统调用，也就没有操作系统状态)

数据中心：协程和线程

数据中心

• 同一时间有数千/数万个请求到达服务器
• 计算部分
  • 需要利用好多处理器
    • 线程 → 这就是我擅长的 (Mandelbrot Set)
    • 协程 → 一人出力，他人摸鱼
• I/O 部分
  • 会在系统调用上 block (例如请求另一个服务或读磁盘)
    • 协程 → 一人干等，他人围观
    • 线程 → 每个线程都占用可观的操作系统资源

Go 和 Goroutine

现代编程语言上的系统编程

我们身边的并发编程

总结

• 并发编程的真实应用场景
  • 高性能计算 (注重任务分解): 生产者-消费者 (MPI/OpenMP)
  • 数据中心 (注重系统调用): 线程-协程 (Goroutine)
  • 人机交互 (注重易用性): 事件-流图 (Promise)