공지사항
|
레드티밍(Red Teaming) 세션 안내
날짜 : 2025-10-23
|
|---|
|
1. 레드티밍 진행 방식 ▶ 진행: Scale AI 레드티밍 팀 (미국 본사)
● 전문가/비전문가 모두가 레드티밍을 쉽게 수행할 수 있도록 설계
● 모델/애플리케이션과 직접 상호 작용하며 포괄적인 데이터셋 수집 ● 수집된 데이터는 모델의 역량과 취약점을 평가하는 데 활용 ● 참가자의 레드티밍 활동은 AI 안전성과 성능 향상에 직접 기여
▶ 우수 성과자 시상 내역 1등 : 50만원 상당 무선 헤드폰 (1명) 2등 : 스타벅스 10만원 상품권 (2명) 3등 : 스타벅스 5만원 상품권 (8명) * 각 세션별로 동일하게 시상 예정 ● 참가자는 자신의 수준에 맞는 미션을 선택(쉬움, 중간, 어려움 등)
● 적대적 전술을 활용한 레드티밍 진행(사전에 안내서 배포 예정) ● 실시간 결과 확인 및 분석 ● 우수한 성과를 보인 참가자에게는 상품을 현장에서 제공 예정 이번 레드티밍 세션을 통해 참가자는 1) AI 시스템의 작동 원리와 한계를 실질적으로 이해하고, 2) 적대적 전술 직접 체험 및 학습, 3) 책임감 있는 AI 개발의 중요성을 체득할 수 있습니다. |