벤더들은 우리가 일하는 방식의 본질을 변화시키는 AI 혁명의 중심에 있다고 여러 최근 연구에 따르면, 실제로는 그것이 훨씬 미세하다고 말한다.
회사들은 벤더들이 잠재적 이점을 앞세워 생성 AI에 대해 극도로 관심을 가지고 있지만 이 욕망을 개념 증명에서 실제 제품으로 전환하는 것이 훨씬 더 어려운 것으로 판명되고 있다. 그들은 구현의 기술적 복잡성에 맞서고 있으며, 이는 이전 기술 스택에서의 기술 부채나 적절한 기술 보유자가 부족하다는 이유로 기인할 수 있다.
사실, 가트너의 최근 연구에 따르면 AI 솔루션을 구현하는 데 가장 큰 장벽은 49%로 가치를 추정하고 증명하는 방법을 찾는 것이고 42%는 인재 부족입니다. 이 두 가지 요소가 회사들에게 주요 장애물이 될 수 있다.
루시드웍스라는 기업 검색 기술 회사의 연구에 따르면, 조사 대상자 중 1/4만이 생성 AI 프로젝트를 성공적으로 실행했다고 보고했습니다.
5월 MIT Sloan CIO 심포지엄에서 발언한 맥킨지 앤드 컴퍼니의 시니어 파트너인 아메르 베이그는 회사가 최근 실시한 조사에서 생성 AI 프로젝트를 규모별로 시행하고 있는 회사는 10% 뿐이라고 보고했습니다. 그는 또한 수익에 어느 정도 긍정적 영향을 보고한 회사는 15%뿐이라고도 보고했습니다. 이는 대부분의 기업이 경험하는 현실을 훨씬 늦게 경험하는 혹세가 될 수 있음을 시사합니다.
이것이 지연의 이유입니다.
베이그는 심플한 프로젝트조차도 20-30개의 기술 요소가 필요하다고 보며, 올바른 LLM은 출발점에 불과하다고 말합니다. 또한, 적절한 데이터 및 보안 제어뿐만 아니라 직원들은 프롬프트 엔지니어링과 IP 제어 구현하는 방법과 같은 새로운 능력을 익히고 있어야 합니다.
그는 고대의 기술 스택도 회사들을 뒤로 묶어버릴 수 있다고 말합니다. 베이그는 "우리의 조사에서 생성 AI를 규모별로 달성하기 위한 최고의 장애물 중 하나로 실제로 너무 많은 기술 플랫폼이라고 보고했습니다. 그것은 사용 사례도 아니고 데이터도 없고 가치 경로도 아니었으며 기술플랫폼으로 실제적으로 나왔다고 앞세우고 있는 것이었습니다."라고 말합니다.
컨설팅 회사 Thoughtworks의 최고 AI 책임자인 마이크 메이슨은 회사들이 AI에 준비되어야 하는데 그들의 현재 기술 설정이 큰 부분을 차지한다고 말합니다. "그래서 질문은, 당신은 얼마만큼의 기술 부채를 가지고 있으며, 얼마큼의 적자를 가지고 있습니까? 답은 항상 조직에 달려 있다고 생각하겠지만, 저는 기업들이 이 것의 고통을 점점 느끼고 있다고 믿습니다," 메이슨은 TechCrunch에 말했습니다.
좋은 데이터로 시작합니다.
Gartner 조사에 참여한 응답자 중 39%가 성공적인 AI 구현의 주요 장벽으로 데이터 부족에 대한 우려를 표명하는 것을 고려하면 준비력의 결핍이라는 측면이 큰 부분을 차지합니다. "많은 기업들에게 데이터는 매우 어려운 과제이다,"라고 베이그는 말합니다. 그는 제한된 데이터 집합에 초점을 맞추고 재사용을 고려할 것을 권장합니다.
"우리가 배운 단순한 교훈은 실제로 여러 사용 사례에 도움이 되는 데이터에 초점을 맞추는 것이며, 대부분의 기업에서 실제로 세 가지 또는 네 가지 도메인이 되어 예산에 적용할 수 있습니다. 그리고 비즈니스 가치와 함께 고 우월한 비즈니스 도전과 그것을 생산 및 확장하는데 적용할 수 있는 뭔가를 전달하는 것입니다," 그는 말합니다.
메이슨은 AI를 성공적으로 실행하기 위한 큰 부분은 데이터 준비도와 관련이 있다고 말하지만, 그것만으로 충분하지는 않습니다. "대부분의 경우 기업은 일부 AI 준비 작업과 플랫폼 구축, 데이터 정리 등을 수행해야 한다는 것을 빠르게 깨달았습니다," 그는 말했습니다. "그러나 전체적인 접근법이나 당신이 가치를 높이기 위해 두년을 보내야 할 필요는 없습니다."
데이터에 관해서, 회사들은 데이터가 어디에서 왔는지를 존중하고 그것을 사용할 권한이 있는 지 여부도 고려해야 합니다. 회사와 정부와 협력하여 다양한 연구 계획과 관련된 데이터를 수집하고 분석하는 컨설팅 회사인 매스프메티카의 CIO인 아키라 벨은 그 데이터를 생성 AI에서 작동시킬 때 신중해야 한다고 말합니다.
"생성 AI를 살펴보면, 우리를 위한 가능성이 있을 것입니다. 우리의 기술로 수집한 데이터를 이해하는 데 회사 및 고객에게 더 나은 방법을 제공할 수 있을 것입니다. 그러나 진정한 진전의 방해가 되지 않도록 하기 위해서 신중하게 움직이는 것이 내 임무인 것도 잊지 마십시오. 도전적인 균형잡기입니다," Bell은 TechCrunch에 말했습니다.
가치 찾기
클라우드가 15년 전에 등장했을 때와 마찬가지로 CIO들은 당연히 신중합니다. 생성 AI가 가지고 있는 잠재력을 보지만, 거버넌스와 보안과 같은 기본 사항을 처리해야 합니다. 또한 때로는 이 기술로 측정하기 어려운 실제 ROI를 볼 필요가 있습니다.
지난 1월에 발표된 AI 가격 모델에 관한 TechCrunch 기사에서 Juniper CIO인 샤론 맨델은 생성 AI 투자의 수익을 측정하기가 어렵다고 말했습니다.
"2024년, 우리는 genAI 혹세를 테스트할 것이며, 그 도구들이 그들이 말하는 혜택을 줄 수 있는지 여부를 시험할 것입니다. 그러면 그 결과가 높게 나올 수 있습니다. 그것이 다른 것들을 제거하는데 도움이 될 수 있습니다," 그녀는 말합니다. 그래서 그녀와 다른 CIO들은 시행착오를 테스트하며 신중하게 움직이고 비용 증대를 정당화하기 위한 증가의 생산성을 판별하는 방법을 찾고 있습니다.
베이그는 회사 전체적으로 AI에 중심적인 접근을 가져야 하고 "너무 많은 스컹워크 조치"를 피해야 한다고 말합니다. "제품 및 플랫폼 팀이 조직되었는지 적중하고 고속으로 작동하고 있음을 확실히 하기 위해 회사에서 지지가 필요하며, 물론 최고 경영진의 시야가 필요합니다," 그는 말했습니다.
모든 것이 AI 프로젝트가 성공할 것이며 기업이 모든 답을 즉시 찾을 것임을 보장하지는 않습니다. 메이슨과 베이그는 모두 팀이 너무 많은 것을 시도하지 않고 작동하는 것을 강조하며, 작동하는 것을 재사용하는 것이 중요하다고합니다. "재사용은 직접적으로 제공 속도로 변환되며, 비지니스를 만족시키고 영향을 제공하게 하는 데 기여합니다," 베이그는 말합니다.
그러나 회사들이 생성 AI 프로젝트를 실행하는 방법에 있어서, 거버넌스, 보안 및 기술과 관련된 도전요소에 의해 마비되어서는 안 되지만 혹세에 멀어져서도 안 됩니다: 거의 모든 기관에는 많은 장애물이 있을 것입니다.
가장 좋은 방법은 가치 찾을 수 있는 작동하고 있는 것을 시작하고 거기서부터 발전하는 것입니다. 그리고 기억하세요, 혹세에도 많은 기업들이 또한 힘든 시간을 겪지는 않을까요.