Orca로 LLM 오케스트레이션 액기스 모음

원본 영상: Orca로 LLM 오케스트레이션 액기스 모음
채널: 코드팩토리

개요

터미널에서 AI를 사용하는 일이 보편화되면서, 여러 에이전트를 함께 활용하는 도구도 늘어나고 있다. 화자는 이전 영상에서 다룬 Herder에 이어, 이번에는 Orca로 에이전트를 오케스트레이션하고 원격 컴퓨터까지 연결하는 방법을 소개한다.

영상의 흐름은 터미널 제어에서 시작해 여러 에이전트의 작업 분담으로 이어진다. 여기에 웹사이트 수정 요청, 변경 사항 확인, 원격 연결 기능을 더해 하나의 작업 환경에서 AI와 협업하는 방식을 살펴본다.

사이드바와 터미널에서 시작하기

화자는 Orca의 기본 화면을 “왼쪽은 사이드바, 오른쪽은 터미널”로 이해하면 된다고 설명한다. 터미널 UI에 익숙하지 않은 사용자도 고려하며, 화면 구성을 출발점으로 기능을 소개한다.

터미널을 직접 조작하는 데서 한 단계 더 나아가면, 실행 중인 AI에게 작업 공간 구성을 요청할 수 있다. 시연에서는 Orca CLI로 오른쪽에 터미널을 만들고 다른 AI를 실행하도록 지시한다.

Orca CLI로 오른쪽 터미널을 만들도록 요청하는 대목

이어 현재 탭에서 여러 에이전트를 실행하도록 요청하며, 터미널 제어를 여러 AI의 실행으로 확장한다. 여기서 다음 주제는 실행된 에이전트들에게 작업을 어떻게 나누고 협업하게 할 것인가다.

run, task, worker로 협업 구성하기

오케스트레이션 설명에서는 run, task, worker를 구분한다. 전체 작업을 구성하는 맥락에서 화자는 task를 “그 안에 있는 개별 작업”이라고 설명한다. 여러 에이전트를 활용할 때 전체 작업과 각 에이전트가 수행할 일을 나누어 생각하는 구조다.

오케스트레이션에서 개별 작업인 task를 설명하는 대목

이후 시연에서는 두 워커가 생성된 것을 확인한다. 워커 생성과 함께 각자의 역할, 전달할 정보, 작업 후 보고할 내용을 다루며 에이전트 간 협업 방식을 설명한다.

두 워커가 생성되었음을 확인하는 대목

이 흐름에서 오케스트레이션은 여러 AI를 실행하는 기능에 그치지 않는다. 각 워커가 어떤 일을 맡고 어떤 정보를 전달할지 정해, 개별 작업을 하나의 작업 흐름으로 연결하는 데 초점이 있다.

브라우저에서 수정 요청 보내기

웹사이트를 보면서 문구와 색상에 대한 변경 요청을 주석으로 추가하고, 이를 에이전트에게 보내는 기능도 소개한다. 수정할 대상을 확인한 자리에서 요청을 작성하고 전달하는 흐름이다.

웹사이트에 추가한 수정 요청을 Send로 보내는 대목

이 기능은 화면 확인과 수정 지시를 연결한다. 웹사이트에서 바꾸고 싶은 부분을 짚고, 그 요청을 에이전트의 후속 작업으로 이어갈 수 있다.

커밋하지 않은 변경 사항 확인하기

프로젝트의 변경 내용을 확인하는 기능도 다룬다. 화자는 Uncommitted Changes를 열어 아직 커밋하지 않은 변경 사항을 살펴보는 흐름을 소개한다.

프로젝트의 Uncommitted Changes를 확인하는 대목

에이전트에게 작업을 요청하는 것에 더해, 프로젝트에 어떤 변경이 생겼는지 확인하는 과정까지 같은 작업 환경에서 다룬다.

다른 컴퓨터와 연결하기

영상 후반에는 원격 컴퓨터를 연결하는 방법으로 범위를 넓힌다. 다른 컴퓨터에서 Share this computer를 선택해 원격 연결 정보를 만드는 절차를 설명한다.

Share this computer로 원격 연결 정보를 만드는 대목

이는 앞서 소개한 터미널 제어와 오케스트레이션을 원격 컴퓨터 연결까지 확장하는 내용이다. 영상은 개별 에이전트의 실행뿐 아니라, 에이전트가 작업할 환경을 연결하는 기능도 함께 다룬다.

여러 에이전트를 활용하는 방향

마지막으로 화자는 하나의 에이전트를 효율적으로 사용하는 데서 더 나아가, 여러 에이전트로 병렬 작업을 수행하는 방향이 발전할 것이라고 전망한다. 하나의 run을 잘 구성하면 사람의 개입을 줄이고 결과물을 더 빠르게 얻을 수 있으리라는 기대다.

영상에서 이어지는 흐름도 이 전망과 맞닿아 있다. AI에게 터미널 생성을 요청하고, 워커별로 작업을 나누며, 수정 요청과 변경 사항 확인을 연결한다. 중심에는 여러 에이전트의 실행을 하나의 작업 흐름으로 구성하려는 접근이 있다.

출처