2025 Bias-A-Thon : Bias 대응 챌린지 <Track 2>

Track2 | 알고리즘 | 프롬프트 엔지니어링 | RAG | LLM | Bias Defence | Llama | Accuracy

[배경] 

최근 대규모 언어모델(LLM)의 급속한 발전과 함께, 이들 모델이 생성하는 응답 속에 내포된 사회적 편향(Bias) 문제가 중요한 기술적·윤리적 과제로 부상하고 있습니다.

LLM은 방대한 인터넷 텍스트를 기반으로 학습되며 그 안에 포함된 성별, 인종, 문화, 정치적 편향 등이 그대로 반영될 수 있습니다.

이러한 편향은 모델의 응답 신뢰성을 해치고, 실제 서비스 적용 시 차별, 왜곡, 오남용 문제로 이어질 수 있습니다.

이번 2025 Bias-A-Thon는 이러한 문제의식에 기반해 LLM 편향을 진단하고 기술적으로 대응 방안을 탐색하는 대회로 기획하였습니다.

두 개의 트랙을 통해 문제를 다각도에서 접근하며 참가자들이 다양한 방식으로 편향 문제를 분석하고 해결할 수 있는 기회를 제공합니다.

이번 대회를 통해 기술 발전의 그늘에 가려진 윤리적 과제들을 직면하고, 모두를 위한 공정하고 신뢰할 수 있는 AI 시스템을 함께 고민하는 계기가 되기를 바랍니다.


[주제]

주어진 편향 상황 설명과 질문을 바탕으로, 공정하고 중립적인 응답을 생성하는 프롬프트 및 RAG 기법 개발


[설명]

2025 Bias-A-Thon : Bias 대응 챌린지 <Track 2>

  •  Llama-3.1-8B-Instruct 모델다양한 편향 상황에서도 공정하고 균형 잡힌 응답을 생성하는 프롬프트 및 RAG 기법을 개발해야 합니다.
  • 응답의 안전성, 편향 저감 전략, 중립성 유지 능력 등을 종합적으로 평가합니다.


[주최 / 주관]

  • 주최 : 성균관대 지능형멀티미디어연구센터, 성균관대 딥페이크연구센터
  • 주관 : 성균관대 신뢰가능한 인공지능 연구단
  • 후원 : 과학기술정보통신부, IITP
  • 운영 : 데이콘


  • 조직위원장: 한진영 교수 (성균관대), Shyam Sundar 교수 (The Pennsylvania State University)
  • 프로그램위원장: 홍성은 교수 (성균관대), 최윤석 교수 (성균관대), 장은채 연구원 (The Pennsylvania State University)
  • 프로그램위원: 백성용 교수 (한양대), 박남기 교수 (연세대), 김승배 교수 (University of South Florida), 곽해운 교수 (Indiana University Bloomington), 김도하 박사 (성균관대), 강미경 연구원 (성균관대), 정애천 연구원 (성균관대)


[참가자격]

  • 인공지능 및 LLM에 관심 있는 대학(원)생

※ 대회 기간(4.28 ~ 5.19) 기준 재학생 및 휴학생 참여 가능, 졸업유예생 참여불가


대회 주요 일정

  1. 04.28

    대회 시작

  2. 05.12

    팀 병합 마감

  3. 05.19

    대회 종료

  4. 05.22

    2차 평가 대상자 산출물 제출 마감

  5. 06.03

    2차 평가 및 코드 검증 마감

  6. 06.04

    오프라인 시상식

[배경] 

최근 대규모 언어모델(LLM)의 급속한 발전과 함께, 이들 모델이 생성하는 응답 속에 내포된 사회적 편향(Bias) 문제가 중요한 기술적·윤리적 과제로 부상하고 있습니다.

LLM은 방대한 인터넷 텍스트를 기반으로 학습되며 그 안에 포함된 성별, 인종, 문화, 정치적 편향 등이 그대로 반영될 수 있습니다.

이러한 편향은 모델의 응답 신뢰성을 해치고, 실제 서비스 적용 시 차별, 왜곡, 오남용 문제로 이어질 수 있습니다.

이번 2025 Bias-A-Thon는 이러한 문제의식에 기반해 LLM 편향을 진단하고 기술적으로 대응 방안을 탐색하는 대회로 기획하였습니다.

두 개의 트랙을 통해 문제를 다각도에서 접근하며 참가자들이 다양한 방식으로 편향 문제를 분석하고 해결할 수 있는 기회를 제공합니다.

이번 대회를 통해 기술 발전의 그늘에 가려진 윤리적 과제들을 직면하고, 모두를 위한 공정하고 신뢰할 수 있는 AI 시스템을 함께 고민하는 계기가 되기를 바랍니다.


[주제]

주어진 편향 상황 설명과 질문을 바탕으로, 공정하고 중립적인 응답을 생성하는 프롬프트 및 RAG 기법 개발


[설명]

2025 Bias-A-Thon : Bias 대응 챌린지 <Track 2>

  •  Llama-3.1-8B-Instruct 모델다양한 편향 상황에서도 공정하고 균형 잡힌 응답을 생성하는 프롬프트 및 RAG 기법을 개발해야 합니다.
  • 응답의 안전성, 편향 저감 전략, 중립성 유지 능력 등을 종합적으로 평가합니다.


[주최 / 주관]

  • 주최 : 성균관대 지능형멀티미디어연구센터, 성균관대 딥페이크연구센터
  • 주관 : 성균관대 신뢰가능한 인공지능 연구단
  • 후원 : 과학기술정보통신부, IITP
  • 운영 : 데이콘


  • 조직위원장: 한진영 교수 (성균관대), Shyam Sundar 교수 (The Pennsylvania State University)
  • 프로그램위원장: 홍성은 교수 (성균관대), 최윤석 교수 (성균관대), 장은채 연구원 (The Pennsylvania State University)
  • 프로그램위원: 백성용 교수 (한양대), 박남기 교수 (연세대), 김승배 교수 (University of South Florida), 곽해운 교수 (Indiana University Bloomington), 김도하 박사 (성균관대), 강미경 연구원 (성균관대), 정애천 연구원 (성균관대)


[참가자격]

  • 인공지능 및 LLM에 관심 있는 대학(원)생

※ 대회 기간(4.28 ~ 5.19) 기준 재학생 및 휴학생 참여 가능, 졸업유예생 참여불가


대회 주요 일정

  1. 04.28

    대회 시작
  2. 05.12

    팀 병합 마감
  3. 05.19

    대회 종료
  4. 05.22

    2차 평가 대상자 산출물 제출 마감
  5. 06.03

    2차 평가 및 코드 검증 마감
  6. 06.04

    오프라인 시상식