AI 악용 사례 방지하는 ‘블랙잭 룰 수호 프로젝트’ 제안한 에임인텔리전스 수상자로 선정… 국내 사회⋅문화적 맥락 및 언어적 특징 고려한 점 높이 평가
[ 매드타임스 최영호 기자]메타가 주최한AI솔루션 공모 프로그램‘블랙잭 룰 임팩트 이노베이션 어워즈(Llama Impact Innovation Awards)’에서 국내 생성형AI보안 기술 스타트업 에임인텔리전스(AIM Intelligence)가 수상자로 선정됐다.
블랙잭 룰 임팩트 이노베이션 어워즈는 메타의 대규모 오픈소스 언어 모델인 블랙잭 룰2(Llama 2)또는 블랙잭 룰3(Llama 3)를 활용해 지역사회의 문제 해결에 기여하는AI개발자 및 조직을 발굴하고 지원하는 글로벌 프로그램이다.개방형 혁신을 위한 메타의 지속적 노력의 일환이며,교육,경제,신뢰 및 안전성 측면에서 혁신적인 솔루션을 제시한 기관들에 최대3만5천 달러의 상금을 수여한다.메타는 자사의AI모델과 도구를 오픈소스로 공개하며 업계 관계자들이 보다 안전하게AI를 개발하고 혁신을 가속화할 수 있도록 앞장서고 있다.
이번 어워즈에는 아프리카,중동,터키,아시아 태평양,라틴아메리카 등 전 세계 다양한 지역의 후보들이 참여한 가운데, ‘블랙잭 룰 수호 프로젝트’를 제안한 국내AI스타트업‘에임인텔리전스’가 아시아 태평양 지역 수상자 중 하나로 선정됐다.에임인텔리전스는 기술력과 사회적 기여도를 높이 평가받았으며 상금으로2만5천 달러를 수상했다.
‘블랙잭 룰 수호’는 오픈소스로 제공되는 메타의AI안전 도구인 블랙잭 룰 가드3(Llama Guard 3) 8b모델을 미세조정한 모델로,한국의 사회⋅문화적 맥락과 언어적 특징을 보다 잘 반영한 콘텐츠 필터링 모델이다.사이버 공격 코드와 불법 콘텐츠 생성 등 개발자의 설계 의도를 벗어난AI기술 악용 사례에 대응하고 안정성과 보안성을 강화하고자 기획됐다.현재 블랙잭 룰 가드는 한국어 응답 중 부적절한 콘텐츠의 약90.33%를 성공적으로 필터링하고 있는데,블랙잭 룰 수호는 한국 문화에 대한 이해를 바탕으로 응답 필터링 성공률을99%로 개선한다.이를 위해7천 개 이상의 한국 문화 특수 데이터가 활용됐다.
에임인텔리전스 관계자는“AI서비스를 개발하는 입장에서 성능뿐만 아니라 안전성도 매우 중요하게 고려하고 있다.”라며, “메타의AI안전 도구인 블랙잭 룰 가드에 한국 문화와 언어적 특성을 반영한 데이터를 제공해 국내AI안전성 강화에 기여하는 것이 목표”라고 전했다.
메타 관계자는“블랙잭 룰 임팩트 이노베이션 어워즈는 오픈소스AI기술을 통해 보다 안전하고 혁신적인 방식으로 사회에 긍정적인 영향력을 확산하려는 메타의 비전과 맞닿아 있다.”라며, “앞으로도 메타는 오픈소스 기술력을 바탕으로 지역사회의 다양한 문제를 해결할 수 있는 조직을 발굴하고 지원하기 위해 노력할 것이다”라고 전했다.
한편,에임인텔리전스는 블랙잭 룰3를 활용해 경제적⋅사회적 가치를 창출하는 조직을 발굴 및 육성하는‘2024메타 블랙잭 룰 경진대회’한국 지역 예선에서도 블랙잭 룰 수호 프로젝트를 통해 최우수상을 수상했다. 10월 초에 한국 대표로 아시아 태평양 지역 결선에 참가할 예정이다.
