◎ 도서소개

4차 산업혁명은 인공지능에 의해 자동화와 연결성이 극대화되는 산업환경으로 최근 4차 산업혁명에 대한 지대한 관심속에 빅데이터 분석과 AI기술이 이슈가 되면서 고성능 컴퓨팅(High Performance Computing, HPC) 인프라에 대한 관심이 증가하고 실제 수요도 늘어나고 있다.
최근 빅데이터와 인공지능이 활성화되면서 가속장치 기술의 발전으로 슈퍼컴의 응용 분야가 각광받고 있는데, 그 대표적 사례가 바로 구글 딥마인드의 AI ‘알파고’로 알파고는 가속장치 기반의 슈퍼컴 기술에 기반하고 있다.
슈퍼컴퓨터는 인공지능의 기반 기술로 현재 전세계적으로 인공지능, 클라우드, 빅데이터, 그리고 이를 위한 고성능 컴퓨팅 기술에 주목하여 자본과 기술력을 총동원하여 개발에 매진하고 있는 가운데, 슈퍼컴퓨터는 국가 주도의 연구 목적에서 점차 기업과 산업체 등 민간으로 그 분야가 세분화되고 확대되어 가고 있다.
또 인공지능이 점차 현실적인 문제해결의 도구로 각광받음에 따라 HPC 선진국들은 인공지능 연구를 위한 컴퓨팅 환경 확보에 박차를 가하고 있는 가운데, HPC의 수요는 과학기술 시뮬레이션에 특화된 컴퓨팅 기술에서 국가의 정책을 통해 공공 플랫폼으로 발전하고 있다.
이에 원하는 성능을 최소한의 투자로 뽑아낼 수 있는 시스템 설계 기술은 물론이고, 최근 확대되는 GPU 및 ‘제온 파이’ 가속기 등 매니코어(Many Core) 아키텍처를 고려한 프로세서 및 메모리 관리 기술, I/O 최적화를 위한 계층형 스토리지 파일시스템, 인터커넥트 네트워크(interconnect network) 기술, 네트워크 라우팅 및 관리, 프로그래밍 툴, 라이브러리, 시스템 운영 관리, 운영체제 최적화 등까지 다양한 기술이 요구되고 있다.
슈퍼컴은 컴퓨터 자체보다는 컴퓨팅, 하드웨어, 소프트웨어 애플리케이션, 프로세서, 네트워크 등과 연결되는 집약적 개념으로 여러 과학기술 및 산업분야와 연결돼 있으며, 국가 경쟁력의 척도로 그 활용범위을 점차 넓혀가고 있는 가운데 우리나라도 그에 대한 대비책을 마련해야 한다.

◎ 목차

1장 2세대 알파고(AlphaGo)와 초고성능슈퍼컴퓨터

1. 2세대 알파고의 등장
1-1. 알파고(AlphaGo)와 인공지능(Artificial intelligence, AI)
1-1-1. 알파고와 딥러닝(Deep Learning)
1-1-2. 2세대 알파고
1-1-3. 알파고와 강인공지능
가. 약인공지능(ANI, Artificial Narrow Intelligence)
나. 강인공지능(AGI, Artificial General Intelligence)
다. 인공지능의 발전 방향
1-1-4. 알파고 2.0과 강화학습
가. 강화학습(Reinforcement Learning)의 개요
가-1. MDP(Markov Decision Process) 방식
가-2. DQN(Deep Q-Network)
나. 강화학습의 특징
1-2. 알파고 2.0의 작동원리
1-2-1. 딥러닝 분산처리 기술
가. 딥러닝 분산처리 기술 개요
나. 병렬컴퓨팅
나-1. 병렬처리(parallel processing)
① SISD(Single Instruction Single Data Stream)
② SIMD(Single Instruction Multiple Data Stream)
③ MISD(Multi Instruction stream Single Data stream)
④ MIMD(Multiple Instruction Multiple Data Stream)
나-2. 대칭적 다중프로세서(Symmetric Multiprocessor, SMP)
나-3. 대규모 병렬프로세서(Massively Parallel Processor, MPP)
나-4. NUMA(Non-Uniformed Memory Access, 불균일 기억 장치 접근)
나-5. 분산시스템(Distributed System)
나-6. 클러스터 컴퓨터(Cluster Computer)
다. 딥러닝 트레이닝 분산 병렬처리
라. 파라미터 공유
마. 동기식과 비동기식 처리
바. 클라우드 컴퓨팅
1-2-2. CPU(Central Processing Unit, 중앙처리장치)
1-2-3. GPU(Graphics Processing Unit, 그래픽 처리 장치)
가. GPGPU(General Purpose Graphics Processing Units)
가-1. MPI(Message Passing Interface, 메시지 전달 인터페이스)
가-2. CUDA(Compute Unified Device Architecture, 쿠다)
가-3. OpenCL(Open Computing Language)
1-2-4. TPU(Tensor Processing Unit, TPU) 

2. 초고성능슈퍼컴퓨터 개요 및 정의
2-1. 초고성능슈퍼컴퓨터(High Performance Computing, HPC)의 등장 배경 및 개요
2-1-1. 초고성능슈퍼컴퓨터(High Performance Computing, HPC)의 등장 배경
2-1-2. 초고성능슈퍼컴퓨터(High Performance Computing, HPC)의 개요
2-1-3. 초고성능슈퍼컴퓨터의 활용

2장. 초고성능슈퍼컴퓨터 기술동향

1. 국내외 기술동향
1-1. 국내 연구 동향 및 개발 현황
1-1-1. 국내 동향
1-1-2. 국내 개발 현황
가. KISTI
나. ETRI
다. 대구경북과학기술원(DGIST)
라. 기상청
마. 서울대
1-2. 해외동향
1-2-1. 미국
1-2-2. 중국
1-2-3. 일본
1-2-4. EU 

2. 국내외 업체별 동향
2-1. 엔비디아
2-2. 인텔
2-3. AMD
2-4. 델 EMC
2-5. IBM
2-6. 휴렛팩커드엔터프라이즈(HPE)
2-7. 슈퍼마이크로
2-8. ARM
2-9. 레노버(Lenovo)
2-10. 인스퍼
2-11. 후지쯔(Fujitsu)
2-12. 코코링크

3. 시장 전망
3-1. 인공지능 시장 전망
3-2. HPC 시장 전망

참고문헌

[표 1] 인공지능 서비스 대중화 로드맵
[표 2] 주요 IT 기업들의 AI 딥러닝 기술 실용화 현황
[표 3] 몬테카를로 트리 서치에 따른 알파고의 바둑 진행 예측
[표 4] 알파고의 구조와 성능
[표 5] 딥러닝 주요 알고리즘
[표 6] 글로벌 기업 딥러닝 기술 경쟁
[표 7] 주요 IT업체 인공지능 현황
[표 8] 알파고 컴퓨팅 파워 비교 및 성능 변화 추이
[표 9] 알파고의 두 가지 전략
[표 10] 알파고의 진화
[표 11] 알파고의 구조와 성능
[표 12] 인공지능의 역사
[표 13] 인공지능의 3단계
[표 14] 인공지능의 세 가지 핵심 능력
[표 15] 인공지능 분류
[표 16] 머신러닝의 학습 방법
[표 17] 병렬컴퓨터 분류 및 구조
[표 18] 플린의 분류
[표 19] 운영체제의 유형별 특징
[표 20] SMP의 장·단점
[표 21] MPP의 장·단점
[표 22] 메모리 공유에 따른 분류
[표 22] NUMA의 장·단점
[표 23] 분산처리 시스템의 계층 구조
[표 25] 딥러닝 전용 분산처리 기술동향
[표 26] 대용량 데이터 처리측면의 클라우드 컴퓨팅 데이터 병렬처리 기법
[표 27] 2016년 11월 슈퍼컴퓨터 CPU 점유율
[표 28] CPU와 GPU의 비교
[표 29] CUDA 처리 흐름 및 장단점
[표 30] 텐서 프로세싱 유닛의 데이터센터 성능 분석
[표 31] 슈퍼컴퓨터 발전단계
[표 32] 슈퍼컴퓨터 활용 분야
[표 33] 제47회('16. 6) Top500 실제성능별 국가 순위
[표 34] 2017년 Top500 슈퍼컴 베스트 10
[표 35] 슈퍼컴퓨터 개발 주요 내용 및 슈퍼컴 개발 로드맵
[표 36] 국내 HPC 장비 도입 현황
[표 37] 국가별 초고성능컴퓨터 보유 대수 추이
[표 38] KISTI 자원현황
[표 39] KISTI의 슈퍼컴퓨터 변천사
[표 40] 국내 슈퍼컴퓨터 개발 역사
[표 41] 대구경북과학기술원 IREMB
[표 42] 기상청의 슈퍼컴퓨터 누리, 미리
[표 43] 전세계 슈퍼컴퓨터 성능 변화
[표 44] 주요국들의 초고성능컴퓨팅 육성 정책 현황
[표 45] 미국 슈퍼컴퓨터 Titan
[표 46] 미국 슈퍼컴퓨터 Sequoia
[표 47] 미국 슈퍼컴퓨터 Cori
[표 48] 미국 슈퍼컴퓨터 Mira
[표 49] 미국 슈퍼컴퓨터 Trinty
[표 50] 중국 슈퍼컴퓨터 Sunway TaihuLight
[표 51] 중국 슈퍼컴퓨터 Tianhe-2(MilkyWay-2)
[표 52] 일본 슈퍼컴퓨터 Oakforest-PACS-PRIMERGY CX1640M1, Intel Xeon Phi 7250 68C 1.4GHz, Intel Omni-Path
[표 53] 일본 슈퍼컴퓨터 K computer
[표 54] 스위스 슈퍼컴퓨터 Piz Daint
[표 55] 볼타 기반 아키텍처
[표 56] 2016~2018 Supercomputers Comparison
[표 57] Intel Core-X Series(Kabylake-X, Skylake-X)
[표 58] AMD 라이젠 라인업
[표 59] 2016년 4분기 전세계 서버 업체 매출 추정치(단위: 대)
[표 60] 국내외 주요 AI개인비서 서비스 현황
[표 61] HPC의 트렌드
[표 62] 제품 분류별 전체 HPC 시장 매출
[표 63] Accelerator/Co-Processor 탑재 시스템 현황
[표 64] 슈퍼컴퓨터 개발 주요 내용

[그림 1] 딥러닝
[그림 2] 기계학습 절차
[그림 3] 딥러닝의 전체 흐름도
[그림 4] TensorFlow를 이용한 딥러닝
[그림 5] 데이터 병렬화
[그림 6] 기술 스택으로 본 딥러닝 프레임워크
[그림 7] 알파고의 Deep Neural Networks 학습 pipeline
[그림 8] 구글 I/O 2017에 소개된 클라우드 TPU
[그림 9] 알파고 개념
[그림 10] 4차 산업혁명 작동원리
[그림 11] 초인공지능
[그림 12] 레이 커즈와일의 특이점
[그림 13] 인공신경망 기계번역
[그림 14] 인간과 교감하는 AI
[그림 15] 영화 her
[그림 16] 환경과 상호작용을 통한 강화학습 구조
[그림 17] 인공지능에 의한 대재앙에 이르는 위험 모델
[그림 18] 강화학습 프레임워크(Reinforcement Learning Framework)
[그림 19] 로봇에 적용된 DQN
[그림 20] q-learning
[그림 21] 마르코프 결정과정 문제(Markov Decision Process, MD
[그림 22] 딥마인드 DQN 구조
[그림 23] 미분 가능 신경컴퓨터의 아키텍처 구조
[그림 24] 강화와 처벌
[그림 25] 강화학습 시스템 구조
[그림 26] 인공신경망을 여러 대의 컴퓨터에 분산시키는 예
[그림 27] 병렬 및 분산처리 능력
[그림 28] 병렬화 과정
[그림 29] 병렬처리 시스템으로서의 뇌모델
[그림 30] AMD/인텔의 최신 멀티 코어 프로세서 구조
[그림 31] 병렬컴퓨터 구조들의 분류
[그림 32] SISD 구조
[그림 33] SIMD
[그림 34] SISD vs SIMD
[그림 35] MISD
[그림 36] MIMD 병렬 처리 방식
[그림 37] SMP Operating System
[그림 38] 대규모 병렬 처리 아키텍처
[그림 39] NUMA 시스템
[그림 40] Intel 네할램 NUMA 구조
[그림 41] 분산시스템 형태
[그림 42] SMP와 MPP 비교
[그림 43] 클러스터 컴퓨터 구조
[그림 44] 클러스터 시스템 전체 구성도
[그림 45] 클러스터 구성
[그림 46] 단일 서버와 분산시스템의 구조
[그림 47] 데이터 병렬처리와 모델 병렬처리 비교
[그림 48] 파라미터 공유 기법
[그림 49] 동기 방식과 비동기 방식으로 데이터를 병렬화하여 훈련
[그림 50] 클라우드 컴퓨터-병렬처리 컴퓨터
[그림 51] 대규모 분산처리
[그림 52] CPU 처리 과정
[그림 53] GPU가 애플리케이션을 가속하는 방법
[그림 54] GPU 컴퓨팅 파워
[그림 55] 그래픽 처리 장치
[그림 56] CUDA 지원 GPU의 아키텍처
[그림 57] GPU와 CPU의 소비 전력당 성능 비교
[그림 58] 데이터 병렬화
[그림 59] General MPI Program Structure
[그림 60] CUDA Application
[그림 61] CUDA 프로그램
[그림 62] OpenCL execution model
[그림 63] Relative Performance/Watt
[그림 64] 구글 TPU의 구조
[그림 65] TPU의 매트릭스 승수 단위(MXU)
[그림 66] TensorFlow에서 TPU
[그림 67] 이종 가속기 기반 딥러닝 HPC 시스템
[그림 68] 미래 컴퓨팅의 확장성
[그림 69] 고성능 컴퓨팅 워크 플로우 일반적인 구조
[그림 70] 우리나라의 연도별 슈퍼컴퓨터 보유대수 변화
[그림 71] MAHA 슈퍼컴 시스템 개념도
[그림 72] 슈퍼컴퓨터 천둥 사양
[그림 73] 국가별 슈퍼컴퓨터 보유 대수(2016년 하반기 기준)
[그림 74] ECP 계획
[그림 75] Sunway TaaihuLight Software Stack
[그림 76] 플래그십(Flagship) 2020
[그림 77] AIST가 발표한 ABCI 플랫폼 구성도
[그림 78] 프레이스(PRACE) 프로젝트
[그림 79] DGX-1
[그림 80] 인텔 제온 파이(Xeon Phi) 코프로세서
[그림 81] 인텔 인텔 옴니패스 아키텍처(OPA)
[그림 82] Kinghts Landing Architectural Diagram
[그림 83] 인텔 메쉬(Mesh) 아키텍처 다이어그램
[그림 84] AMD Zen 마이크로 아키텍처
[그림 85] AMD ‘네이플스’2소켓 구조
[그림 86] 델EMC HPC 서버 라인업
[그림 87] 델EMC HPC 시스템 포트폴리오
[그림 88] IBM HPC 포트폴리오 요약
[그림 89] 엔비디아 NV링크 GPU 확장성
[그림 90] 민스키(Minsky) 시스템 세부 구조
[그림 91] POWER9-Premier Acceleration Platform
[그림 92] HPE 아폴로(Apollo) 시스템
[그림 93] 메모리 기반 컴퓨팅(Memory Driven Computing)
[그림 94] 슈퍼마이크로 슈퍼서버 ‘SYS-4028GR-TR2’
[그림 95] ARM 빅리틀 헤테로지니어스 코어 구조
[그림 96] DynamIQ Shared Unit(DSU)
[그림 97] CoreLlink IP
[그림 98] MareNostrum 4 3D Sketch
[그림 99] Fujitsu Processor Development
[그림 100] Post-K: Fujitsu HPC CPU to Support ARM v8
[그림 101] 코코링크 HPC ‘Klimax-210’
[그림 102] Artificail Intelligence Revenue, World Markets(2016~2025)
[그림 103] Top Region Based on 5Year CAGR(2015~2020)
[그림 104] 2016년도 ICT 기술수준조사 보고서
[그림 105] Automotive Artificial Intelligence Total Revenue by Segment, World Markets(2016~2025)
[그림 106] 인공지능 분야별 중국의 특허신청 비중
[그림 107] 인공지능 국내 시장 규모
[그림 108] 2020년까지 HPC 시장
[그림 109] 국가별 슈퍼컴퓨터 보유 대수
[그림 110] 국가별 슈퍼컴퓨터 보유 성능
[그림 111] 제조사별 슈퍼컴퓨터 대수 비율
[그림 112] 제조사별 슈퍼컴퓨터 성능 비율