LM 스튜디오 첫인상…로컬 PC에서 LLM 실행해 보니

코드 작성 없이 데스크톱 앱만으로 LLM을 실행하고, 대화 기록과 내부 추론까지 확인할 수 있다. 몇몇 부분에서 아직 미흡하지만, 바로 사용할 수 있을 정도로 유용하다.




Credit: Shutterstock



자율형 AI를 위한 전용 데스크톱 애플리케이션은 비교적 기술 지식이 많지 않은 사용자도 대형 언어 모델(LLM)을 쉽게 활용하도록 돕는다. 사용자가 직접 파이썬 프로그램을 작성하거나 모델 파일을 일일이 관리할 필요가 없다. IDE와 유사한 인터페이스를 열고, 하나 이상의 LLM과 상호작용하며 대화 기록을 확인하거나 세부 동작을 점검할 수 있다.

아마존과 구글도 AI 기반 코드 개발에 초점을 맞춘 전용 제품을 각각 선보였다. 아마존의 키로(Kiro), 구글의 안티그래비티(Antigravity)가 대표적이다. 두 제품 모두 모델을 로컬 환경에서 실행하거나 클라우드에서 구동하는 방식을 지원한다.

엘리먼트 랩스(Element Labs)가 개발한 LM 스튜디오(LM Studio)는 로컬 우선 경험을 전면에 내세운다. LLM을 실행하고 운영하며 활용하는 전 과정을 PC에서 처리하는 방식이다. 코드 개발보다는 일반적인 대화형 활용에 초점을 맞췄다. 기능 구성은 아직 단출하지만, 기능적인 면에서는 충분한 완성도를 갖췄다.

문제가 될 시 삭제하겠습니다.

출처 : https://www.itworld.co.kr/article/4131110/lm-%ec%8a%a4%ed%8a%9c%eb%94%94%ec%98%a4-%ec%b2%ab%ec%9d%b8%ec%83%81%eb%a1%9c%ec%bb%ac-pc%ec%97%90%ec%84%9c-llm-%ec%8b%a4%ed%96%89%ed%95%b4-%eb%b3%b4%eb%8b%88.html