보안 때문에 GPT 못 쓴다고? SLM으로 해결하는 방법 (ft. 양자화, PEFT)
보안 때문에 GPT는 그림의 떡? 얼마 전 회사에서 새로운 AI 프로젝트를 시작했는데, 데이터 보안 때문에 외부 LLM(Large Language Model)을 쓰는 게 거의 불가능하더라고요. 클라우드에 올리는 것조차 망설여지는 민감 정보들이 많아서, 아예 자체 모델을 구축해야 하나 고민이 깊었습니다. 괜히 시작했나 싶기도 하고… 그렇다고 AI 트렌드를 놓칠 수는 없으니까, 답답한 마음에 여기저기 정보를 찾아다녔죠. 그러다 이 영상을 … 더 읽기