[디지털비즈온 김맹근 기자] 대부분의 경우 기존 AI/ML 기술은 백그라운드에서 대규모 데이터 세트의 패턴을 식별하려고 한다. 예측을 하고 이러한 예측을 기반으로 권장 사항을 제공한다.

생성 AI는 근본적으로 다릅니다. 이는 인간 대화 샘플을 포함하여 방대한 양의 데이터로 훈련된 대규모 언어 모델(LLM)이다. 데이터를 소화하고 요약할 수 있으며 자연어를 사용하여 인간과 상호 작용할 수 있다. ChatGPT는 출시 후 첫 주에 100만 명, 두 달 만에 1억명의 사용자를 기록해 제작자조차 놀라게 한 슈퍼 Siri이다. 현재 월간 방문자 수는 18억 명에 달한다.

일반적으로 시스템이 빠르게 확장되면 시스템은 더 복잡해지고 관리하기 어려워지며 안정성과 효율성이 떨어진다. 대규모 언어 모델을 사용하면 데이터가 많을수록, 쿼리가 많아질수록, 상호 작용이 많아질수록 시스템은 더욱 스마트해지고 인간 지능과 더욱 유사 해지기 시작한다.

그러나 적어도 현 단계에서는 이러한 모델이 인간 지능과 동일하지 않습니다. Forrester 분석가 Rowan Curran은 “그들이 하지 않는 것은 상황에 맞는 이해가 있는 완전히 새로운 정보를 생성하는 것이다. 이러한 모델은 해당 시퀀스의 이전 단어를 기반으로 시퀀스의 다음 단어를 예측한다. 그들을 권위의 원천, 신탁 또는 그 뒤에 마음이 있는 어떤 것으로 취급하지 않는 것이 중요하다.”

생성 AI가 엔터프라이즈 IT에 어떤 역할을 할 수 있나?

네트워킹 계층에서 대규모 언어 모델은 네트워크 구성 생성, IT 자동화 도구용 스크립트 작성, 네트워킹 맵 생성과 같은 기능을 수행할 수 있다고 Enterprise Management Associates의 연구 담당 부사장인 Shamus McGillicuddy는 말한다.

“영감과 상상력, 미루는 습관에 아주 좋습니다. 이를 사용하여 작업이나 프로젝트를 시작할 수 있다. 콘텐츠나 코드 같은 것을 제공해달라고 요청하라. 그런 다음 자신의 지식과 기술을 사용하여 정책 문서든 네트워크 구성 파일이든 좋은 것으로 바꿀 수 있다.”라고 McGillicuddy는 말한다.

소프트웨어 개발에서 생성 AI는 코드 조각을 뱉어낼 수 있고 코드 디버깅 기능을 갖추고 있다. 대규모 언어 모델은 IT 전문가가 바이트에 관해 이야기하는 방식으로 "토큰"이라는 용어를 사용한다. ChatGPT를 사용하면 하나의 토큰은 4개의 문자, 즉 대략 단어의 3/4을 나타낸다.

각 ChatGPT 쿼리/응답에는 약 4,000개의 토큰 제한이 있고 쿼리 문구 자체도 해당 제한에 포함되기 때문에 이는 중요하다. 따라서 생성 AI 시스템은 다양한 프로그래밍 언어로 코드 조각을 작성할 수 있지만 운영 체제의 새 버전을 제안하도록 요청하지는 않다. 한계에 도달하면 중지되고 재설정되기 때문이다.

전략적 수준에서 IT 리더는 제너레이티브 AI에 더욱 익숙해지고 익숙해지면 이를 기업 전체에 적용하여 직원의 생산성을 높이고 비즈니스 프로세스를 간소화하며 고객 서비스를 개선하고 디지털 혁신을 추진할 수 있다.

Bedi는 서로 다르고 복잡한 정보를 대량으로 가져와 인간이 소비할 수 있도록 요약하는 제너레이티브(생성적) AI의 능력이 ITOps, 보안 및 이벤트 로그 분석, 고객 지원, 콜센터, 헬프 데스크, 재무, HR, 영업 및 마케팅에 적용할 수 있다고 말한다. “모든 사람은 수많은 콘텐츠로 가득 차 있다. 생성 AI는 이를 유용하고 소비 가능한 것으로 정제하는 능력을 갖추고 있다. 이를 통해 회사의 모든 작업 속도를 높일 수 있다.”라고 덧붙였다.