컨슈머타임스=김성수 기자 | 최근 오픈AI의 챗GPT나 구글 제미나이와 같은 생성형 인공지능(AI) 서비스를 이용하는 이용자가 대폭 늘어난 가운데 데이터 신뢰성은 물론 정확성을 강화한 국내 AI기업이 주목받고 있다.
방송통신위원회와 정보통신정책연구원이 발표한 '2024년 지능정보사회 이용자 패널조사'에 따르면 국민 4명 중 1명(24.0%)이 챗GPT 등 생성형 AI를 활용한 경험이 있다.
이는 전년 대비 두 배 가까이 증가한 수치다. AI가 실험적 기술에 머물지 않고 대중적인 도구로 입지를 확고히 했음을 보여준다. 또 유료 구독 경험자도 0.9%에서 7.0%로 급증했다.
생성형 AI는 텍스트 생성(57.2%)을 비롯해 음성·음악(21.4%), 이미지 생성(11.8%)에 이르기까지 활용 범위가 넓다. 정보 검색은 물론 일상 업무 보조, 심리적 교감 등 여러 방면에서 다양한 목적을 충족하고 있다.
그러나 사용자 증가와 함께 AI 부작용에 대한 우려도 높아지고 있다. 조사 결과에 따르면 많은 응답자들이 AI발전에 따른 일자리 대체(60.9%), 창의성 저하(60.4%), 저작권 침해(58.8%), 범죄 악용(58.7%) 가능성 등을 문제점으로 인식하고 있다. 특히 부정확한 정보 생성과 데이터 편향성은 복수의 응답자들이 경계하는 부분이다.
응답자의 절반 이상은 AI가 존재하지 않는 정보를 만들어낼 수 있고, 거짓 정보를 퍼뜨리거나, 진실과 거짓을 구분하기 어려운 콘텐츠를 생성해 특정 관점이나 생각에 편향된 내용을 만들어 낼 수 있다고 우려하고 있다.
이러한 문제점은 AI가 질문에 대해 그럴듯한 답을 확률적으로 조합해 생성하기 때문에 발생한다. 아직 AI를 활용하는데 있어 신뢰성의 문제가 지속되고 있는 것이다.
우리와 일상생활에서 가장 근접하게 닿아있는 AI의 신뢰성 문제는 가짜뉴스나 딥페이크에 관한 이슈가 있다.
최근 국내에서는 21대 대선 기간동안 가짜 컨텐츠는 1만건을 넘는 것으로 조사됐고, 미국에서는 LA 시위와 관련해 가짜로 둔갑된 자극적인 컨텐츠가 SNS를 활보하고 있다. AI가 점차 발전함에 따라 가짜뉴스와 딥페이크 생성도 더욱 빠르고 정교하게 확산되고 있는 것이다.
생성형 AI의 신뢰성과 정확성을 확보하기 위한 대책 마련이 핵심 과제로 떠오른 가운데, 국내 AI 기업 비큐AI가 책임 있는 기술 개발로 주목받고 있다.
비큐AI는 뉴스 빅데이터에 특화된 기술과 서비스를 통해 생성형 AI의 부작용을 최소화하고, 안전하고 신뢰할 수 있는 AI 생태계를 자체적으로 구축해 나가고 있다.
특히 'RDPLINE(Real-time Data Pipeline)'은 실시간으로 검증된 뉴스데이터를 제공해 신뢰성 있는 AI 결과물을 구현할 수 있는 환경을 조성하고 있다.
또 검색 증강생성(RAG)기반 검색 솔루션을 통해, AI 환각 현상이나 가짜 뉴스 등 AI 신뢰성 문제에 대한 기술적 대응책도 제시하고 있다.
비큐AI 관계자는 "AI 신뢰성 문제 해결을 위해 기술과 시스템을 함께 발전시켜 나갈 것"이라며 "모든 사용자가 보호받는 공정하고 투명한 AI 생태계 조성을 위해 지속적으로 노력하겠다"고 밝혔다.
