Jev 완벽 가이드: 193배 빠르고 444배 저렴한 AI 모델 transcript

이 모델은 코트도 못 자고 글도 쓸 수 없지만 현재 전 세계적으로 엄청난 관심을 받고 있습니다. 이름을 제브라고 하는데요. 이게 왜 그렇게 화제인지 그리고 정말 쓸 만한 건지 오늘 처음부터 끝까지 정리해 보도록 하겠습니다. 영상은 이렇게 세 파트로 진행해 보려고 하는데요. 가장 먼저 제브가 정확히 뭔지 알아볼 겁니다. 그리고 실제 활용 사례에 대해 얘기해 볼 건데요. 단순히 뭐 트레이딩시키고 게임시키고 그런 건 하지 않습니다. 보다 거시적인 관점에서 이걸 실제 워크플로우에 어떻게 활용할 수 있을지 이야기해 보겠습니다. 마지막으로 솔직한 후계에 대해 말씀드릴 건데요. 아무래도 처음 출시된 유형의 모델인만큼 여러 가지 반박도 나오고 있고 뭐가 진짜고 뭐가 마케팅인지 그리고 절대 하면 안 되는 것까지 정리해 보도록 하겠습니다. 먼저 누가 만들었는지부터 살펴봐야 하는데요. 여긴 타입세이프라는 회사이고 창업자는 디오고 알메이다입니다. 사실이 사람은 오픈 AI에서 RLHF 사람의 피드백으로 모델을 학습시키는 방법을 만든 사람입니다. 쉽게 말하면 그냥 텍스트 H끼였던 GPT를 말이 통하는 GPT로 바꾼 그 연구를 한 사람이죠. 그리고 타입세이프는 제이브를 시스템 모델이라고 부릅니다.이 말은 생각에 관한 생각이라는 색에서 나온 건데 여기서는 사람의 사고를 두 가지로 나눕니다. 우선 시스템 2는 수학 문제를 풀거나 코드를 짜는 것과 같은 느리고 신중한 사고입니다. 지금까지 나온 모든 LRM이 이걸 흉내내려고 했었죠. 반면 시스템 5는 빠르고 직관적인 판단입니다. 예를 들어 저 떡볶이 빨간색이네. 이걸 판단하는데 생각이 필요하진 않죠. 제가 생각하기에 가장 쉬운 비유는 뇌와 반사신경인데 즉 지금까지 나온 시스템 2 AI들은 전부 뇌와 같고 재브는 처음 나온 시스템 반사신경이라고 할 수 있습니다. 그러니까 이건 단순히 새로운 툴이라기보다는 새로운 역할을 하는 AI의 등장이라 볼 수 있죠. 사용법은 정말 간단한데 API와 플러그인 이렇게 두 가지만 준비해 주시면 됩니다. 다만 현재 제가 촬영하는 시점에는 타입세이프의 신규 가입이 중단되어서 제구의 API키를 얻기 위해선 오픈라우터나 버셀의 AI 게이트웨이 같은 서비스를 격류해서 사용해 줘야 합니다. 그렇기 때문에 저는 우선 오픈라우트로 들어와서 프로필에 API 키탭을 클릭해 주고 여기서 제브라는 이름의 새 API키를 만들어 줄게요. 물론 다들 아시겠지만이 API키는 유출되지 않게 안전하게 달뤄 주셔야 합니다. 그리고 제 컴퓨터에 있는 폴더에서 환경 변수 파일을 하나 만들어 주고 여기에 제부 API키라는 이름으로이 API 키를 등록해 줄게요. 그냥 간단하게. 점v라는 이름의 파일을 만들고 아까 복사했던 키를 붙여 넣어 주기만 하면 됩니다. 이제 다음으로 플러그이죠. 이건 타입세이프의 홈페이지에서 덕스를 클릭해서 공식 문서로 넘어와 줍니다. 그리고 여기 보시면 상단 레퍼런스라는 탭이 있죠. 여기서 좌측에 보시면 에이전트 스킬이 있습니다. 이걸 클릭해 주고 전체 페이지를 복사해 줄게요. 그리고 바로 클러드 코드에게 이렇게 요청해 주겠습니다. 에이전트 스킬을 설치해죠. 좋습니다. 이제 재를 사용할 준비가 모두 완료되었습니다. 본격적으로 재부를 사용하기 전에 이게 어떤 식으로 작동하는 건지 간단하게 살펴볼 건데요. 우선 제부한테는 현재 상황과 질문 이렇게 두 가지 데이터를 보낼 수 있습니다. 근데 질문은 아무 질문이나 할 수 있는 건 아니고 딱 세 가지 형태만 가능한데요. 첫 번째 초이스 보기 중에 하나를 고르는 거고 두 번째는 스코어 점수를 먹기는 거죠. 마지막 널 참인지 거짓인지를 확률로 책정합니다. 예를 들어 이런 고객 무늬가 있다고 했을 때 이걸 어느 팀에서 처리해야 할지 결정해야 한다고 해 볼게요. 만약 클로드한테 같은 걸 시킨다면 막 이렇고 저렇고 긴 문장으로 답하잖아요. 근데 제브는 그냥 결제팀 100% 이렇게 한 번에 답이 옵니다. 문장을 안 쓰니까 빠르고 출력 비용이 없기 때문에 상당히 저렴하고 내가 준 보기밖에 답은 절대 내놓지 않습니다. 그리고 답마다 확률이 붙어서 오기 때문에 확실한 건 알아서 처리하고 애매한 것만 저희가 봐주면 되는 거죠. 물론 장점만 있는 건 아닌데요. 컨텍스트가 자꾸 이전 대화를 기억하지 못합니다. 그렇기 때문에 긴 일을 맡기기보다 순간순간 판단을 하는데 유리하다고 할 수 있죠. 그래서 오늘 소개해드릴 사례는 이렇게 세 가지 범주로 나눠 볼 수 있는데요. 첫 번째는 스위치입니다. 예를 들어 어떤 작업을 하는데 있어서 매번 어떤 모델한테 맡길지를 직접 고르잖아요. 간단한 작업이라면 제일 비싼 모델을 쓰기에는 아깝고 그렇다고 어려운 작업을 저렴한 모델에게 맡기면 사고가 날 수 있죠. 이럴 때 재부를 앞에다 두면 작업마다 알아서 어떤 모델이 적합한지를 판단해서 보내 줄 수 있습니다. 다음은 정말 유명한 사례인데요. 타임라인을 내릴 때마다이 글이 AI가 쓴 글인지 실시간으로 판단해서 지워 줍니다. 같은 방식으로 웹페이지에서 광고만 지우거나 댓글에서 스팸이나 악플만 걸러내는 것도 가능하죠. 두 번째는 대량 처리이고 여기서는 제부의 출력 비용이 거의 무료라는 점이 핵심입니다.이 원리를 일상에 적용한다면 리뷰 분석이 있습니다. 예를 들어 호텔을 고른다고 했었을 때 몇백 개나 있는 모든 리뷰를 다 읽을 수는 없잖아요. 그래서 제브한테 이걸 요청해 볼 수 있습니다. 소음은 어떤지, 위치는 어떤지, 청결이나 다른 지표들은 어떤지 저는 싱가포르 호텔에 대해 미리 준비를 해 봤는데요. 이렇게 되면 결국 단 3초 만에 내 기준에 맞는 호텔 목록을 받아볼 수 있죠. 같은 원리를 비즈니스에도 적용한다면 데이터 인덱싱이나 마케팅 타게팅 혹은 고객 기타 감지와 같은 작업들을 할 수 있겠네요. 전부 대량의 자료에 내 기준을 바탕으로 점수를 붙이는 작업입니다. 그리고 이후에 제부가 이미지 입력도 지원하게 된다면 지금 같은 단순한 검색이 아니라 의미 기반 인싱도 가능해질 겁니다. 그렇게 되면 단순히 글자에 맞춰서 결과값이 나오는게 아니라 내가 지금 찾는 거랑 맞는 내용인지 의미를 이해하고 답을 찾아 줄 수 있게 되는 거죠. 세 번째는 실시간 반응이고 여기서는 제부의 빠른 속도가 핵심입니다. 지금까지 웹사이트는 모든 방문자에게 같은 화면을 보여 줍니다. 왜냐면 방문자마다 화면을 다르게 조립하려면 판단이 필요한데 그 판단을 LRM에게 맡기면 페이지를 보여 주는데 몇 초씩 걸리기 때문이죠. 다만 재은 가능할 것 같습니다. 방문자가 어디서 왔는지, 지금까지 뭘 클릭했는지, 어디서 얼마나 머물렀는지 이런 상태값에 따라서 어떤 걸 먼저 보여 줄지, 어떤 문구를 보여 줄지 즉각적으로 선택할 수 있는 거죠. 이렇게 되면 사용자는 AI가 개입했다는 사실을 모른 채이 사이트가 나한테 잘 맞네라고 느낄 수도 있습니다. 사실 지금까지는 개인화된 UI라는게 말만 있었는데 처음으로 현실적인 선택지가 된 거죠. 마지막은 컵편집입니다. 무음 구간을 보고이 무음이 얼마나 지속되는지, 몇 초로 잘라야 하는지 이런 걸 한 번에 판단할 수 있습니다. 물론 지금도 가능하긴 하지만 재브를 사용한다면 훨씬 빠르고 저렴하게 처리할 수 있죠. 이렇게 여러 가지 사례를 알아봤는데 결론적으로 저는 지금이 좀 특별한 시점이라고 생각합니다. 지금 재부를 아는 것과 모르는 것은 단순히 도구 하나를 더하는게 아니라 판단을 따로 떼어낼 수 있다는 걸 아는 것과 모르는 것의 차이라고 할 수 있습니다. 여기에 자신만의 도메인 지식이 붙고 프론티어 모델이 붙으면 지금까지 불가능하던게 갑자기 가능한게 될 수 있는 거죠. 그렇다고 장점만 있는 건 아닌데요. 우선 환각이 0%는 아닙니다. 즉 잘못된 선택을 할 수 있다는 거죠. 이건 당연한 겁니다. 그리고 제브는 페이블이나 아스트라처럼 지능이 높은 모델이 아닙니다. 빠르고 저렴한 대신 나 그만큼만 똑똑한 거라서 항상 검증하면서 사용해야 합니다. 마지막으로 재부로 절대 하면 안 되는 것들을 말씀드리려고 하는데요. 결론부터 말씀드리면 오래 생각해야 하는 작업은 시키면 안 됩니다. 먼저 AI 판사로 쓰는 건 불가능합니다. 예를 들어 AI가 만든 세 가지 코드 중에 뭐가 제일 나은가? 이건 코드를 읽고 맥락을 알고 생각해야 하는 일이잖아요. 반사신경한테 이런 걸 시킬 수는 없는 거죠. 마찬가지로 리뷰나 어려운 판단 같은 것들도 불가능합니다. 짧은 판단은 제브가 잘하지만 긴 생각이 필요한 일은 지금까지처럼 클로드나 GPT한테 맡겨야 합니다. 결국 데브는 클로드나 GPT를 대체하는게 아닙니다. 기존 AI가 들어가던 루프 사이사이에 붙는 거죠. 무엇보다 아직 너무 초기이고 조만간 비슷한 모델도 여러 개 나올 거라 생각합니다. 그래서 지금 할 수 있는 일은 하나입니다. 내 워크플로우 안에서 10초 안에 답할 수 있는 판단이 있는지 찾아보는 것. 만약 그런게 있다면 거기에 재비를 한번 붙여 볼 수 있겠네요. 오늘 영상은 여기까지이고 영상이 도움이 되셨다면 구독과 좋아요 부탁드립니다. 저는 다음 영상에서 뵙겠습니다. 습니다.