2025 Bias-A-Thon : Bias 대응 챌린지 <Track 2>

[배경] 

최근 대규모 언어모델(LLM)의 급속한 발전과 함께, 이들 모델이 생성하는 응답 속에 내포된 사회적 편향(Bias) 문제가 중요한 기술적·윤리적 과제로 부상하고 있습니다.

LLM은 방대한 인터넷 텍스트를 기반으로 학습되며 그 안에 포함된 성별, 인종, 문화, 정치적 편향 등이 그대로 반영될 수 있습니다.

이러한 편향은 모델의 응답 신뢰성을 해치고, 실제 서비스 적용 시 차별, 왜곡, 오남용 문제로 이어질 수 있습니다.

이번 2025 Bias-A-Thon는 이러한 문제의식에 기반해 LLM 편향을 진단하고 기술적으로 대응 방안을 탐색하는 대회로 기획하였습니다.

두 개의 트랙을 통해 문제를 다각도에서 접근하며 참가자들이 다양한 방식으로 편향 문제를 분석하고 해결할 수 있는 기회를 제공합니다.

이번 대회를 통해 기술 발전의 그늘에 가려진 윤리적 과제들을 직면하고, 모두를 위한 공정하고 신뢰할 수 있는 AI 시스템을 함께 고민하는 계기가 되기를 바랍니다.

[주제]

주어진 편향 상황 설명과 질문을 바탕으로, 공정하고 중립적인 응답을 생성하는 프롬프트 및 RAG 기법 개발

[설명]

2025 Bias-A-Thon : Bias 대응 챌린지 <Track 2>

•  Llama-3.1-8B-Instruct 모델의 다양한 편향 상황에서도 공정하고 균형 잡힌 응답을 생성하는 프롬프트 및 RAG 기법을 개발해야 합니다.
• 응답의 안전성, 편향 저감 전략, 중립성 유지 능력 등을 종합적으로 평가합니다.

[주최 / 주관]

• 주최 : 성균관대 지능형멀티미디어연구센터, 성균관대 딥페이크연구센터
• 주관 : 성균관대 신뢰가능한 인공지능 연구단
• 후원 : 과학기술정보통신부, IITP
• 운영 : 데이콘

• 조직위원장: 한진영 교수 (성균관대), Shyam Sundar 교수 (The Pennsylvania State University)
• 프로그램위원장: 홍성은 교수 (성균관대), 최윤석 교수 (성균관대), 장은채 연구원 (The Pennsylvania State University)
• 프로그램위원: 백성용 교수 (한양대), 박남기 교수 (연세대), 김승배 교수 (University of South Florida), 곽해운 교수 (Indiana University Bloomington), 김도하 박사 (성균관대), 강미경 연구원 (성균관대), 정애천 연구원 (성균관대)

[참가자격]

• 인공지능 및 LLM에 관심 있는 대학(원)생

※ 대회 기간(4.28 ~ 5.19) 기준 재학생 및 휴학생 참여 가능, 졸업유예생 참여불가