[디지털비즈온 김맹근 기자] 인공지능(AI)이 빠르게 일상 생활과 비즈니스의 일부가 되면서, 이는 엄청난 잠재력을 제공한다. 문제 해결, 데이터 기반 의사 결정, 딥러닝에서 AI의 획기적인 발전을 통해 건강, 웰빙, 사람들과 지역사회의 번영을 모두 향상시킬 수 있다.
CIO의 집에 따르면, 하지만 AI는 개인정보 보호 및 보안 위험뿐만 아니라 차별, 부당한 제한, 저작권 문제, 딥페이크 등 심각한 위험도 초래한다.
기업들은 AI가 모두의 이익을 위해 안전하고 책임감 있게 개발되고 실행될 수 있도록 강력한 거버넌스 프레임워크를 신속하게 마련해야 한다.
AI 거버넌스에 대한 CEO의 견해
NTT는 최근 WSJ 인텔리전스와 함께 AI 기반의 지속 가능하고 첨단 연결 기술 채택을 주도하고 있는 CEO를 대상으로 한 글로벌 연구를 발표했다.
설문조사에 따르면 많은 사람들이 AI의 잠재적 영향에 대해 우려하고 있는 것으로 나타났다. CEO들은 또한 명확한 윤리 지침의 중요성을 인식했다. 87%는 AI의 안전하고 책임 있는 개발을 보장하기 위해 강력한 거버넌스와 리스크 관리 프레임워크가 시급히 필요하다고 답했다.
전 세계적으로 AI가 회사에서 중요한 기술이라고 답한 사람들 중 거의 4분의 3(70%)이 데이터 프라이버시를 가장 큰 걱정거리로 꼽았다. 그 숫자는 미국에 기반을 둔 CEO들 사이에서 84퍼센트로 증가했다. 다른 우려 사항으로는 사이버 보안, 규정 준수 문제, 환경 영향 및 유지 보수 비용, 그리고 직무 이동, 편견 및 공정성 등이 있다.
대기업 임원들과 미국의 임원들 사이에서 안전하고 안전하며 신뢰할 수 있는 AI를 사회에 도입하는 데 직면한 가장 중요한 과제 중 하나는 AI에 대한 과도한 의존의 위험이었다.
그들은 AI가 노동력 내에서 비판적 사고와 창의성을 약화시킬 수 있다는 우려를 표명했다. 응답자의 84%는 대형 언어 모델(LLM)과 같은 AI 기술이 점점 더 개인화되어 이러한 문제가 더 악화될 수 있을 것으로 예상한다고 답했다.
동시에 응답자의 85%는 AI 사용에 대한 관심과 에너지 소비 증가에 대한 우려를 표명했다.
NTT의 실제 사례
지침이 필수적이라는 것은 분명한다. 하지만 모든 회사가 동일한 방식으로 그것들을 만들거나 출시하는 것은 안이다. 거버넌스 프레임워크는 조직이 자신의 특정 상황과 요구 사항을 충족하도록 개발할 때 가장 잘 작동한다.
이는 AI 개발 및 구현을 조정하기 위해 여러 사업부에서 협력하는 것을 의미할 수 있다. 또는 타사 AI 도구 사용 방식에 대한 정책을 수립하는 것도 포함될 수 있다.
NTT는 윤리적 거버넌스를 보장하기 위해 가드레일의 필요성과 함께 AI의 엄청난 잠재력을 인정하는 회사의 한 예이다. NTT는 비즈니스와 사회에 AI를 더 깊이 심어주기 위해 연구 개발에 투자하고 있으며, 업무를 안내하기 위해 6가지 원칙으로 자체 AI 헌장을 제정했다.
지속 가능한 기술 및 리스크 관리 솔루션에 대한 지출 증가 예상
윤리적 AI 거버넌스에 중점을 두면 지속 가능한 기술과 리스크 관리 솔루션이 필요한다. WSJ 인텔리전스 글로벌 연구에 참여한 응답자의 대다수는 2025년에 이러한 분야에서 지출이 최소 10% 증가할 것으로 예상한다고 답했다.
설문조사에 참여한 사람들 중 22%는 AI의 에너지 수요에 대해 우려하고 있다고 답했다. 특히, 생성형 AI 모델은 기존 소프트웨어에 비해 작업에 최대 33배 더 많은 에너지를 소비하는 상당한 컴퓨팅 성능을 필요로 하다.
경영진은 이러한 지속 가능성 문제와 기술 발전의 균형을 맞출 수 있는 솔루션에 투자하려고 한다.
설문조사에서도 리스크 관리에 초점을 맞춘 투자가 증가함에 따라 기업들은 자산 보호에 보다 적극적인 입장을 취하고 있는 것으로 보인다. 이는 데이터 유출 문제 해결과 관련된 비용 상승을 고려할 때 특히 중요하다.
기업들은 그 어느 때보다 사이버 보안에 더 많은 비용을 지출하고 있으며, 방화벽과 VPN과 같은 기존 솔루션에 2,190억 달러를 투자하고 있다. 이러한 지출 추세는 생성형 AI가 계속 발전하고, 클라우드 서비스의 채택 범위가 넓어지고, 하이브리드 작업장이 확장되며, 규제 요구 사항이 진화함에 따라 더욱 커질 것으로 예상된다.
미래를 바라보기
AI가 사회에 더 깊이 통합됨에 따라 WSJ 인텔리전스 글로벌 연구에 따르면 많은 CEO가 AI가 비즈니스의 미래에 중요한 역할을 할 것으로 보고 있다. 그러나 경영진은 또한 이 개발 기술의 상당한 에너지 사용, 개인정보 보호 및 보안 문제, 편견, 인간의 과도한 의존 가능성 등의 어려움을 인식하고 있다.
AI의 엄청난 잠재력과 그 위험성 사이에서 균형을 맞추려는 사람들에게는 강력한 거버넌스와 지침이 필수적이다. 낭비할 시간이 없다.