"생성 AI는 기업의 새로운 위험"...지적 재산권, 데이터 보호, 사이버 보안 해결해야

"2분기 설문조사에서 두 번째로 자주 언급된 리스크는 생성 AI로, 처음으로 상위 10위 안에 진입했다. 이는 생성 AI 도구에 대한 대중의 인식과 사용이 빠르게 증가하고 있을 뿐만 아니라, 이러한 도구가 초래할 수 있는 잠재적 사용 사례와 그에 따른 잠재적 위험이 광범위하게 증가하고 있음을 반영한다."

가트너가 2023년 5월 기업에서 위험 관리를 담당하는 고위 임원 249명을 대상으로 기업 경영에 위험 요소가 될 수 있는 20개 항목에 대한 설문 조사를 실시했다. 그리고 이를 기반으로 이러한 위험이 미칠 수 있는 기간, 영향, 주의 수준, 인식된 기회 등에 대한 정보를 담은 분기별 신흥 위험 보고서를 발표했다.

가트너의 설문조사에 따르면 기업의 고위 임원들은 생성 AI를 기업이 직면한 새로운 위험 요소로 보고 있는 것으로 나타났다. (자료 : Gartner)

그중에서 기업의 위기관리 임원들이 가장 우려하는 상위 5개 항목은, 제3자 생존 위험(Third-Party Viability Risk), 대량 생성 AI 가용성(Mass Generative AI Availability), 재정 계획의 불확실성(Financial Planning Uncertainty), 클라우드 집중 위험(Cloud Concentration Risk), 중국 무역 긴장(China Trade Tensions)이다.

이 중에서 가장 주목할 것은 2위에 오른 대량 생성 AI 가용성 항목이다. 66%의 응답자가 선택해 이번에 처음으로 10위 안에 들어간 생성 AI에 대한 위험성이 기업의 위기관리 요소에서 중요한 관심사로 급부상한 것이다. 67%가 위험 요소로 지적한 제3자 생존 위험과는 불과 1% 차이 밖에 나지 않는다. 재정 계획의 불확실성과 클라우드 집중 위험은 각각 62%, 중국 무역 긴장에 대해서는 56%의 설문 참여자가 위험 요소로 지목했다.

기업 환경에서 생성 AI가 업무 효율을 획기적으로 높이면서도 비용은 크게 절감할 수 있는 새로운 기술로 주목받고 있는 가운데, 지적 재산권, 데이터 개인정보 보호, 사이버 보안이라는 세 가지를 해결하지 못하면, 생성 AI가 축복이 아닌 재앙이 될 것이라는 것이 설문 조사에 참여한 기업 위기관리 담당자들의 생각이다.

이러한 문제들은 생성 AI가 처음 등장하고 관심을 끌기 시작할 때부터 집중적으로 제기되던 것들이다. 생성 AI를 학습시키는 데 필요한 학습 자료가 이미 다양한 형태로 저작권을 침해하고 있는 사례가 등장하고 있다. 또한, 생성 AI 학습과 활용 과정에서 의도하지 않게 기업의 기밀이나 민감한 정보가 유출되는 일도 이미 심각한 문제로 떠오르고 있다.

무엇보다 무분별한 정보를 수집하고 이를 기반으로 학습하는 생성 AI를 활용할 경우, 생성 AI 서비스 공급업체가 사전 통지 없이 제3자와 사용자 정보를 공유할 수 있다는 우려도 커지고 있다. 이는 개인 정보 보호법으로 개인 정보 보호를 강력하게 추진하며 규제하고 있는 국가들의 개인 정보 보호 정책에 위배된다.

더욱 심각한 것은 생성 AI가 보유하고 제공하는 강력한 능력을 악용하는 해커의 등장이다. 생성 AI가 악용될 경우 사이버 보안에 대한 위협이 이전과는 비교도 할 수 없을 만큼 다양하고 치명적인 방향으로 전개될 것이다. 누구나 생성 AI가 악성 코드다 해킹 도구를 생성하게 하거나, 거짓 정보를 생성해서 교묘하게 배포도록 조작하면 그 파급 효과를 가늠하기 힘들다.

이러한 위험 요소 때문에 기업의 위험 관리 담당 임원들은 생성 AI에 대한 위험성을 높게 보고 있는 것이다. 결국 이러한 문제를 사전에 해결하거나 대처할 수 있는 제도적인 장치나 기술적인 해결 방안을 마련하지 못한다면, 생성 AI가 가진 다양한 긍정적인 효과는 위험 요소 관리에 매우 철저한 기업에서는 외면을 받을 수밖에 없다.

 

⧉ Syndicated to WWW.CIOKOREA.COM