회사 내부 규정에 대해 AI에게 질문했는데 엉뚱한 답이 나온다면 어떨까요. 사내 문서에 분명 답이 있는데도 AI가 이를 알지 못한다면 업무에 활용하기 어렵습니다. 이런 문제를 보완하기 위해 활용되는 기술이 RAG입니다. 기업이 보유한 문서나 데이터에서 필요한 정보를 먼저 찾고, 그 내용을 바탕으로 생성형 AI가 답변하도록 만드는 방식입니다. 챗봇이나 사내 검색, 고객 상담처럼 기업의 실제 데이터를 활용해야 하는 … 더 읽기
새로운 인공지능 모델이 등장할 때마다 기술 뉴스나 발표 자료에서 빠지지 않고 등장하는 대표적인 수치가 있습니다. 바로 ‘파라미터(Parameter) 수’입니다. 수십억 개부터 수천억 개, 심지어 조 단위에 이르는 거대한 숫자를 보면, 파라미터가 많을수록 무조건 더 똑똑하고 뛰어난 AI일 것이라는 생각이 들곤 합니다. 실제로 AI의 성능을 비교할 때 파라미터 규모는 가장 자주 언급되는 핵심 기준 중 하나입니다. 하지만 … 더 읽기
요즘 인공지능(AI) 기술의 흐름을 보면 아주 흥미로운 변화가 느껴집니다. 예전에는 수천억 개의 매개변수(Parameter)를 가진 거대한 모델을 앞다투어 선보이는 분위기였지만, 최근에는 실용성과 효율성을 극대화한 소형언어모델(SLM, Small Language Model)이 대세로 떠오르고 있습니다. 모든 AI 서비스가 슈퍼컴퓨터급 서버를 필요로 하는 것은 아닙니다. 우리가 매일 쓰는 스마트폰이나 노트북에서 번역을 하거나, 기업 내부에서 사내 규정을 검색하는 정도라면 거대한 모델보다 빠른 … 더 읽기
AI가 질문에 답을 하고 글이나 이미지를 뚝딱 만들어내는 풍경은 이제 우리에게 꽤 익숙한 일상이 되었습니다. 그런데 최근 인공지능 분야에서는 단순히 결과를 빠르게 생성하는 수준을 넘어, 복잡한 문제를 여러 단계로 나누어 분석하고 해결하는 ‘추론형 AI(Reasoning AI)’가 새롭게 주목받고 있습니다. 많은 분이 기존에 널리 사용해 온 생성형 AI(Generative AI)와 이 추론형 AI가 완전히 다른 별개의 기술인지 궁금해하곤 … 더 읽기
최근 빅테크 기업들의 움직임을 보면 흥미로운 변화가 느껴집니다. 예전에는 누구 모델의 성능이 더 뛰어난지 겨루는 분위기였습니다. 하지만 요즘은 데이터센터를 누가 더 많이, 그리고 안정적으로 확보하느냐로 경쟁의 판이 넓어지고 있습니다. 아무리 성능이 뛰어난 인공지능을 개발해도 서비스 경쟁력을 유지하기 어렵습니다. 수많은 사용자가 동시에 몰렸을 때 이를 지연 없이 처리해 줄 서버와 전력 시설이 필요하기 때문입니다. 이제 데이터센터는 … 더 읽기
빅테크 기업들이 거대한 자본을 바탕으로 시장을 주도하는 환경에서 후발 주자가 동일한 방식으로 맞서는 것은 무척 어려운 일입니다. 아마존, 마이크로소프트, 구글 같은 범용 클라우드 거인들이 이미 공고한 생태계를 구축하고 있었기 때문입니다. 하지만 코어위브는 이들과 정면으로 대결하는 대신, AI 학습과 추론에 필수적인 GPU 컴퓨팅 인프라에만 모든 역량을 집중하는 전략을 선택했습니다. 생성형 AI 시장이 크게 성장하면서 이러한 특화 … 더 읽기
AI 시장에서 주목받는 기업을 떠올리면 엔비디아처럼 반도체를 만드는 제조사나, 독자적인 대규모 언어모델을 개발하는 인공지능 전문 기업들이 가장 먼저 떠오르기 쉽습니다. 하지만 팔란티어(Palantir Technologies)는 조금 다른 길을 걸어왔습니다. 팔란티어는 처음부터 생성형 AI를 개발해 주목받은 회사가 아닙니다. 오랜 기간 복잡하게 파편화된 데이터를 하나로 연결하고, 이를 바탕으로 실제 현장에서 정교한 의사결정을 내릴 수 있도록 돕는 소프트웨어 기반을 다져왔습니다. … 더 읽기
최근 AI 산업의 경쟁 무대가 빠르게 달라지고 있습니다. 단순히 뛰어난 모델 성능을 개발하는 것에 그치지 않고, 이를 구동할 데이터센터를 얼마나 안정적으로 확보하느냐가 핵심 과제로 떠올랐습니다. 성능이 뛰어난 AI를 개발하더라도 연산에 필요한 GPU와 전력, 초고속 네트워크가 부족하면 실제 사업으로 확장하기 어렵기 때문입니다. 이러한 산업 변화 속에서 과거 기업용 데이터베이스 회사로 유명했던 오라클이 AI 데이터센터 시장의 핵심 … 더 읽기
AI 반도체 시장을 이야기할 때 가장 먼저 떠오르는 기업은 단연 엔비디아입니다. 강력한 성능을 가진 GPU를 바탕으로 시장을 이끌어왔기 때문입니다. 그런데 AI 데이터센터의 규모가 커지면서 GPU만으로는 해결하기 어려운 문제들이 차츰 수면 위로 올라오기 시작했습니다. 수만 개가 넘는 AI 가속기를 어떻게 서로 손실 없이 연결할 것인지, 어마어마한 전력 소비를 어떻게 줄일 것인지, 그리고 특정 AI 서비스에 꼭 … 더 읽기
AMD는 엔비디아의 AI 반도체 독주를 막을 수 있을까? AI 기술이 눈부시게 발전하면서 인공지능 모델을 학습시키고 서비스하는 데이터센터의 규모도 함께 급증하고 있습니다. 이러한 변화의 중심에는 엔비디아의 GPU와 소프트웨어 플랫폼인 쿠다(CUDA)가 자리 잡고 있습니다. 현재 주요 AI 기업과 클라우드 사업자들이 엔비디아 GPU를 폭넓게 활용하면서 엔비디아는 AI 가속기 시장에서 강력한 영향력을 유지하고 있습니다. 하지만 특정 기업에 대한 의존도가 … 더 읽기