제5세부

“인공지능 가속 하드웨어를 위한 소프트웨어 플랫폼, 시스템 최적화, 응용 개발”

  • 본 연구는 1-4세부에서 연구한 신경망 프로세서, PIM 등 디지털 기반 가속 하드웨어와 뉴로몰픽 기반의 아날로그 가속 하드웨어를 효율적으로 지원 가능한 컴퓨팅 시스템
    소프트웨어 플랫폼의 개발 및 연구를 목표로 함
  • 소프트웨어 플랫폼은 신경망 가속 하드웨어를 위한 ISA, 가속 라이브러리, 성능 예측 및 분석 모델을 포함하며, 이를 이용하여 신경망 가속 하드웨어의 구조적 장단점을 비교하고 성능 병목 개선을 통해 소프트웨어-하드웨어 최적화 연구를 진행함
  • 플랫폼 구축 후 응용 기술에 대해서는 컨소시엄 기업의 수요를 기반으로 집중개발하여 사업화를 추진함 → 모바일 AP 시장: 차세대 알고리즘 수행 가능한 저전력 신경망 프로세서 (1TOPS/W), 서버 시장: PIM 기술을 이용한 대규모 인공지능 인퍼런스 워크로드 처리 (10TOPS/w)
1 단계: 가속 하드웨어 모델링
  • 타겟 인공지능 알고리즘 및 벤치마크 확보
    • 주요 인공지능 애플리케이션을 분석하여 코어 알고리즘 및 연산 모듈에 해당하는 벤치마크 또는 프록시앱를 확보하고, 이를 기반으로 벤치마크를 생성함
    • 인공지능 벤치마크를 기반으로 워크로드의 성능 및 연산 특성을 분석함
  • 디지털 및 아날로그 기반 하드웨어 구조 모델링
    • 뉴로몰픽 프로세서 및 아날로그 회로 등 아날로그 기반 가속 하드웨어 구조를 분석함
    • 아날로그 소자 기반의 모델을 모듈로 한 기본 모델링 프레임워크를 개발함
    • 하드웨어와 소프트웨어의 인터페이스라 할 수 있는 ISA를 아날로그 및 디지털 하드웨어 개발 세부과제 팀과 공동으로 개발 및 공유하고, 각 명령어에 대한 동작을 정의함
2 단계: 아날로그/디지털 가속 하드웨어 라이브러리 개발
  • 인공지능 애플리케이션의 성능 병목 분석
    • 인공지능 애플리케이션 가속을 위해 1단계 산출물인 벤치마크에 대해 성능 병목 파악하고, 성능 병목을 해소하기 위한 하드웨어-소프트웨어 최적화 기법을 연구, 개발함
    • 1단계 산출물인 하드웨어 구조를 기반으로 하드웨어 세부과제 팀과 협동으로 하드웨어 개선 방안을 연구함
  • 서버용 하드웨어 가속기 설계
    • 2세부, 4세부 기술 및 디지털 시스템 플랫폼 팀과 협업하여 서버용 하드웨어 가속기 설계
  • 개별 가속 하드웨어에 대한 가속 라이브러리 개발
    • 주요 알고리즘에 대해 인공지능 애플리케이션 개발자-소프트웨어 플랫폼의 인터페이스인 API를 설계함
    • 해당 가속 하드웨어의 고유한 특징을 반영한 라이브러리를 개발하고, 각 하드웨어 명령어를 기반으로 가속 라이브러리를 구현함
    • 1단계 산출물인 벤치마크에 대해 가속 라이브러리 성능 측정 및 최적화를 진행함
  • 모바일용 하드웨어 가속기 설계
    • 1세부, 3세부 기술 및 아날로그 시스템 플랫폼 팀과 협업하여 모바일용 하드웨어 가속기 설계
3 단계: 아날로그/디지털 통합 소프트웨어 플랫폼 연구
  • 가속 하드웨어의 효율적 사용을 위한 애플리케이션 성능 예측 연구
    • 2단계 산출물인 가속 라이브러리와 1단계 산출물인 하드웨어 모델을 기반으로 라이브러리 함수별 성능을 측정하고 연산 특성을 분석함
    • 라이브러리를 이용한 벤치마크 수행 시간을 기반으로 애플리케이션 전체에 대한 성능 예측 모델을 개발함
  • 효율적 가속을 위한 애플리케이션 분할 기술 및 스케쥴링 기법 연구
    • 각 라이브러리 함수에 대한 아날로그/디지털 가속 하드웨어 예상 성능을 기반으로 최적의 가속 하드웨어를 선정하고 이종 컴퓨팅 기술을 이용한 연산 가속 방법을 고안함
    • 각 가속 하드웨어 사이의 통신 오버헤드 산출하고, 이를 최소화하는 연산 가속 방법을 연구함. 이를 통해 최적의 가속 하드웨어 사용 스케쥴링 기법을 개발함
  • 디지털 시스템 플랫폼을 이용한 응용 매핑 및 최적화
    • 디지털 시스템 플랫폼 팀과 협업하여 서버용 응용 매핑 및 최적화
    • FPGA 보드 기반 시연 가능 시작품 제작
  • 시스템 단위 통합 가속 라이브러리 개발
    • 성능 예측 모듈, 애플리케이션 분할 모듈, 스케쥴러, 아날로그/디지털 가속 하드웨어 라이브러리를 통합하여 시스템 단위 통합 가속 라이브러리를 개발함
    • 시스템 단위의 성능 최적화 연구를 진행함
    • 하드웨어 세부과제팀 산출물인 아날로그/디지털 기반 가속 하드웨어 디자인에 적용하여 성능 분석 및 검증을 진행함
  • 아날로그 시스템 플랫폼을 이용한 응용 매핑 및 최적화
    • 아날로그 시스템 플랫폼 팀과 협업하여 모바일 용 응용 매핑 및 최적화