요즘 가장 핫한 AI모델 Jev, AI 자동화에 적용하기!

원본 영상: 요즘 가장 핫한 AI모델 Jev, AI 자동화에 적용하기!
채널: 시민개발자 구씨

개요

고객 문의에 답변하거나 리뷰와 뉴스에서 필요한 정보를 찾으려면, 먼저 어떤 자료를 처리할지 판단해야 한다. 시민개발자 구씨는 이 분류 단계에 Jev를 활용하는 업무 자동화 방식을 소개한다.

화자는 Jev가 일반적인 생성형 AI와는 사용 방식이 다르다고 설명한다. 자유로운 서술형 답변 대신 사전에 제공한 평가표에 따라 판단 결과를 반환한다는 것이다. 영상에서는 이 특성을 고객 문의, 리뷰, 뉴스 선별 등에 연결한다.

서술형 답변 대신 평가표에 따른 판단

화자는 일반적인 생성형 AI가 문장으로 답변하는 것과 달리, Jev는 미리 정한 평가표에 따라 응답한다고 설명한다. 이를 ‘객관식 답변’에 비유하며 세 가지 응답 방식을 소개한다.

사전에 제공한 평가표에 따라 응답하는 방식을 설명하는 대목

이 구조에서는 무엇을 구분할지, 어떤 기준으로 판단할지를 먼저 정하는 일이 중요하다. 업무에 필요한 분류 기준을 마련하고, 그 결과를 후속 작업에 연결하는 것이 영상의 기본 흐름이다.

영상에서 소개한 속도와 비용

화자는 Jev의 장점으로 빠른 처리 속도와 낮은 비용을 든다. 기존 모델보다 약 40~200배 빠르다는 수치를 소개하며, 반복적인 판단 작업에 활용할 가능성을 설명한다.

입력 비용으로는 100만 토큰당 0.042달러를 제시한다. 이는 영상에서 소개한 가격이다.

입력 토큰 100만 개당 비용을 소개하는 대목

영상 말미에는 많은 자료에서 인사이트를 얻으려 할 때 모든 내용을 다른 생성형 모델에 한꺼번에 요청하면 토큰 사용량이나 처리 속도가 부담이 될 수 있다고 설명한다. 먼저 자료를 분류하고 필요한 대상을 좁히는 활용 방식은 이러한 문제의식과 연결된다.

연결 준비: API 키를 직접 설정한다

API 연결 과정에서 화자는 키를 넣을 위치를 안내받은 뒤, 사용자가 해당 문서에 직접 키를 입력하는 방식을 권한다.

안내받은 문서에 API 키를 직접 입력하도록 권하는 대목

연결을 준비한 다음에는 업무별 판단 기준을 적용해 분류 작업을 진행한다. 영상은 고객 문의에서 시작해 리뷰와 뉴스, 콘텐츠 수집으로 사례를 넓힌다.

고객 문의 분류와 정기 실행

고객 문의 사례에서는 여러 문의를 분류하는 과정을 보여 준다. 화자는 시연 당시 두 건씩 병렬로 처리하도록 요청해 두었다고 설명한다.

고객 문의를 두 건씩 병렬 처리한다고 설명하는 대목

반복 업무의 실행 방식으로는 크론을 활용한 스케줄 설정을 다룬다. 메인 모델이 요청을 처리하는 시간을 고려하면서, 정해진 일정에 따라 작업이 이어지도록 구성하는 흐름이다.

크론 설정을 활용한 정기 실행을 설명하는 대목

고객 리뷰에서 개선할 대상을 추린다

리뷰 사례에서는 분류 결과 가운데 부정 리뷰와 긍정·부정이 섞인 혼합 리뷰를 살펴본다. 개선 과제를 찾기 위해 어떤 피드백을 후속 분석에 넘길지 선별하는 과정이다.

부정 리뷰와 혼합 리뷰를 후속 분석 대상으로 살펴보는 대목

이 사례에서 분류는 분석의 대상을 정하는 단계다. 리뷰를 기준에 따라 나눈 뒤, 개선할 부분이 드러나는 피드백을 중심으로 다음 작업을 이어 간다.

관심사에 맞춰 뉴스를 선별한다

뉴스 사례에서는 관심사 기준을 적용해 후속 처리 대상을 줄인다. 화자는 선별 결과를 설명하면서 대상이 42건으로 줄었다고 말한다.

직접 스크롤하는 탐색 과정에 연결된 레퍼런스 자동 수집

28:03 - 직접 스크롤하는 탐색 과정에 연결된 레퍼런스 자동 수집

관심사 기준을 적용한 뒤 대상이 42건으로 줄었다고 설명하는 대목

핵심은 수집한 자료를 모두 같은 비중으로 다루기 전에, 필요한 정보를 먼저 고르는 데 있다. 리뷰 사례가 개선할 피드백을 추리는 과정이라면, 뉴스 사례는 관심사에 맞는 정보를 남기는 과정이다.

콘텐츠 탐색에 분류 기능을 연결한다

영상 후반에는 인스타그램 콘텐츠를 분류하고 상태를 표시하는 활용 사례가 등장한다. 화자는 분류 과정에서 나타나는 빨간색 표시의 의미를 설명한다.

인스타그램 콘텐츠를 분류하며 표시하는 상태의 의미

26:37 - 인스타그램 콘텐츠를 분류하며 표시하는 상태의 의미

이 사례는 준비된 문의나 기사 목록을 처리하는 데서 나아가, 콘텐츠를 탐색하는 과정에 판단 기능을 연결하는 방향을 보여 준다.

핵심 정리

영상이 제안하는 활용 방향은 정해진 기준으로 자료를 먼저 분류하고, 필요한 대상을 다음 작업으로 넘기는 것이다. 고객 문의, 리뷰, 뉴스, 콘텐츠 수집은 서로 다른 업무지만, 반복되는 판단을 자동화한다는 공통점이 있다.

화자는 Jev의 빠른 처리와 낮은 비용에 주목한다. 이를 업무에 연결하려면 모델을 호출하는 것과 함께, 무엇을 기준으로 구분하고 그 결과를 어떻게 활용할지도 정해야 한다.

출처

시민개발자 구씨 — 요즘 가장 핫한 AI모델 Jev, AI 자동화에 적용하기!