2024 AI 신뢰·안전성 컨퍼런스 / 제2회 인공지능 신뢰성 대상

■ 일시 : 2024. 11. 26. (화) 10:00~17:00

■ 장소 : 피스앤파크컨벤션 3F 로얄홀 (서울 전쟁기념관)

■ 참가신청 : https://event-us.kr/aitta/event/95102 (2024.11.14~11.25)

■ 프로그램

▶ 개회식(10:00~10:15, 15분)

    - 개회사 - 손승현(회장|한국정보통신기술협회), 김정언(원장직무대항|정보통신정책연구원)

    - 축사 - 송상훈(정보통신정책실장|과학기술정보통신부)

▶ 시상식(10:15~10:45, 30분) : 제2회 인공지능 신뢰성 대상 시상식 및 기념촬영

▶ 해외 기조 강연 - 녹화 버전(10:45~11:00, 15분) : AI 안전의 방향 - Yoshua Bengio(퀘벡 AI연구소 교수, 국가AI위원회 글로벌 자문위원)

▶ 국내 기조 강연(11:00~11:30, 30분) : 글로벌 AI생태계에서의 AI안전·신뢰 중요성 - Alice Oh(KAIST AI센터장·교수)

▶ 오찬(11:30~13:00, 90분)

== 제1세션 "위험" ==

▶ 발표(13:00~13:30, 30분)

    - 레드팀 챌린지 결과와 향후 계획 - 곽준호(팀장|한국정보통신기술협회)

    - AI 신뢰·안전 확보를 위한 데이터셋 - 최호진(교수|KAIST)

== 제2세션 "행동" ==

▶ 발표(13:30~15:30, 120분) : AI 서울 정상회의, 그 후 - 1. 카카오 | 2. LGAI연구원 | 3. 네이버 | 4. KT | 5. SKT

    ＊ 상기 5개 기업은 "Seoul AI Business Pledge"에 서약하였으며, 이 중 네이버는 "Frontier Safety Commitment"에도 서약

▶ 커피 브레이크(15:30~15:40, 10분)

== 제3세션 "기술" ==

▶ 발표·토론(15:40~16:50, 70분)

    - 발표 1. 안전 확보를 돕는 AI 모델 - 박규병(대표|튜닙)

    - 발표 2. CAT : LLM 안전 및 신뢰성 확보 전략 - 김동환(대표|포티투마루)

    - 발표 3. LLM 신뢰성 평가 프로세스 및 Use Case - 김세엽(대표|셀렉트스타)

    - 토론

        · 좌장 : 신준호(AI신뢰성센터장|한국정보통신기술협회)

        · 패널 : 제3세션 발표자

▶ 폐회 및 장내 정리(16:50~17:00)

■ 기조 강연 소개

▶ Yoshua Bengio(요수아 벤지오)

    - 현) 몬트리올 대학 교수 - 소속 : 학습알고리즘연구소(MILA)

    - 현) 국가AI위원회 글로벌 자문위원

    - 튜링상 수상(2018)

    - 왕립학회 회원(캐나다, 런던)

    - 기조 강연 주요 내용(15분)

        · 안전한 AI의 중요성과 현황

        · 향후 AI 안전성의 키워드

            → 글로벌 AI 안전연구소가 초점을 맞추고 있는 주요 키워드

            → 고급 AI의 안전성에 관한 국제 과학보고서 작업 현황(연말에 최종안 공개 예정)

        · 대한민국의 AI 안전 관련 전략적 역할

            → 국가AI위원회 글로벌 자문위원으로서 제시하는 한국의 국제적 역할과 전략

        · 결언

▶ Alice Oh(오혜연)

    - 현) KAIST 전산학부 교수·AI센터장

    - 현) 국가 AI위원회 위원

    - Global PAI 전문가

    - NeurlPS 프로그램 위원장

    - 기조 강연 주요 내용(30분)

        · 국제사회에서의 AI 패권 경쟁 현황

        · 전략자산으로서의 AI 신뢰성, 안전성의 중요성

        · 대한민국의 AI 안전 관련 전략적 역할

       · AI안전연구소의 중요성

        · 다가오는 국제 행사의 주요 소개

        · 결언

■ 주최 : 과학기술정보통신부

■ 주관 : 한국정보통신기술협회, KISDI 정보통신정책연구원, 전자신문