Orchestration models 🤖, DeepMind exodus 👋, loop engineering 🔄
구글 딥마인드의 핵심 인재이자 노벨상 수상자인 존 점퍼가 경쟁사 앤트로픽으로 이직했다는 충격적인 소식과 함께, 멀티 에이전트를 유기적으로 조율하는 오케스트레이션 모델 'Fugu', 그리고 프롬프트 엔지니어링을 넘어
구글 딥마인드의 핵심 인재이자 노벨상 수상자인 존 점퍼가 경쟁사 앤트로픽으로 이직했다는 충격적인 소식과 함께, 멀티 에이전트를 유기적으로 조율하는 오케스트레이션 모델 'Fugu', 그리고 프롬프트 엔지니어링을 넘어 지속적인 피드백 루프를 구축하는 '루프 엔지니어링' 흐름을 상세히 짚어봅니다.
🚀 주요 소식 및 제품 출시
사카나 AI의 Fugu (Sakana Fugu)
사카나 AI가 단일 모델처럼 매끄럽게 동작하는 새로운 멀티 에이전트 시스템 'Fugu'를 출시했어요. Fugu는 사용자 요청이 들어왔을 때 이를 직접 처리할지, 아니면 도메인별 전문 에이전트 모델들로 구성된 팀에게 조율해 맡길지를 스스로 결정해요. 모델 선택부터 위임, 검증, 최종 결과물 합성까지 전 과정을 Fugu가 알아서 관리해 줍니다. 사용자는 그저 단일 모델을 호출하는 것처럼 편리하게 사용하면서도 뒤에서는 정교하게 협동하는 에이전트 시스템의 강력한 성능을 누릴 수 있어요. 현재 OpenAI 호환 API를 통해 Fugu와 Fugu Ultra 버전을 바로 만나보실 수 있습니다.
인셉션 랩스의 Mercury 2 AI: 구글 DiffusionGemma의 강력한 적수
인셉션 랩스(Inception Labs)가 초당 약 1,000개의 토큰을 생성하는 추론형 언어 모델 'Mercury 2'를 공개했어요. 이미지 생성 AI인 스테이블 디퓨전처럼 '디퓨전(Diffusion)' 기법을 텍스트 생성에 적용한 것이 특징입니다. 이 모델은 극도의 고난도 추론 작업보다는 속도가 매우 중요하고 처리량이 아주 많은 워크플로우를 타겟팅하여 최적화되었습니다. 현재 API 및 클라우드 서비스 형태로만 제공돼요.
노벨상 수상자 존 점퍼(John Jumper), 딥마인드 떠나 경쟁사 앤트로픽으로 이직
단백질 구조 예측 AI인 '알파폴드(AlphaFold)' 팀을 이끌며 노벨 화학상을 수상했던 존 점퍼가 9년간 머물렀던 구글 딥마인드를 떠나 경쟁사 앤트로픽(Anthropic)에 합류한다는 소식이에요. 그의 이직 배경에는 최근 딥마인드가 기업 고객을 대상으로 코딩 도구 등의 솔루션을 판매하는 비즈니스 영역에서 다소 고전하고 있던 내부 상황도 영향을 미친 것으로 보입니다.
🧠 심층 분석 및 기술적 통찰
DiffusionGemma의 투명성 감사 (Auditing DiffusionGemma)
새로운 디퓨전 기반 아키텍처를 채택한 DiffusionGemma에 대한 투명성 감사 결과가 발표되었어요. 분석 결과, DiffusionGemma는 혁신적인 아키텍처 변경에도 불구하고 기존 Gemma 모델만큼이나 뛰어난 모니터링 가능성을 유지하고 있는 것으로 나타났습니다. 이 보고서는 변수 투명성과 알고리즘 투명성 사이의 간극을 조명하며 비연대기적 추론(non-chronological reasoning), 토큰 스미어링(token smearing), 중간 맥락 추론과 같은 독특한 인공지능 현상들을 짚어냈어요.
백악관의 AI 강제 중단 조치 (AI Pauses)
미 백악관이 수출 통제 조치를 발동하여 앤트로픽의 Claude Fable 5와 Claude Mythos 5의 배포 및 가동을 중단시키는 초유의 사태가 발생했어요. 트럼프 행정부는 Fable 모델의 탈옥(jailbreak) 결함을 원인으로 지목했는데요, 실상은 단순히 "이 코드를 수정해 줘"라고 요청한 것을 탈옥으로 잘못 인식한 것으로 밝혀졌습니다. 백악관은 앤트로픽에 이 오류를 해결할 것을 요구했으나 기술적으로 수정이 불가능한 영역이어서, 일주일이 지난 지금까지도 서비스 중단 사태가 해결되지 못하고 장기화되고 있습니다.
👨💻 엔지니어링 및 연구 동향
엔비디아의 자율 로보틱스 연구 (NVIDIA ENPIRE)
엔비디아가 공개한 ENPIRE는 코딩 에이전트가 현실 세계의 로봇 정책(Policy)을 반복적으로 개선할 수 있도록 지원하는 폐루프(closed-loop) 프레임워크예요. 자동 초기화, 평가, 검증 및 리파인먼트 과정을 유기적으로 연결하여 로봇 제어 코드를 안전하고 확실하게 고도화합니다.
프롬프트 엔지니어링에서 '루프 엔지니어링'으로의 패러다임 전환
AI 코딩 워크플로우가 단순히 한 번 프롬프트를 잘 작성하는 기술에서 벗어나 '루프 엔지니어링(Loop Engineering)'의 시대로 나아가고 있어요. 이제 개발자들은 에이전트가 결과를 도출하면 이를 스스로 평가하고, 실패할 경우 다시 프롬프트를 구성해 재시도하여 사전에 정의된 정량적 목표에 도달할 때까지 끊임없이 피드백을 주고받는 반복 실행 시스템을 구축하는 데 집중하고 있습니다.
코드 생성 속도 극대화 기법
개발 환경에서 LLM의 응답 속도를 극대화하기 위한 흥미로운 하드웨어 및 소프트웨어 최적화 성과들이 공유되었습니다. 핵심 기술 항목과 그 구체적 효과는 다음과 같습니다:
| 최적화 기술 | 핵심 작동 메커니즘 | 달성 성과 |
|---|---|---|
| Morph LLM | 웹 전체의 데이터 대신 오직 코딩 출력물만을 학습한 드래프터 모델을 사용해 스펙큘러티브 디코딩을 진행해요. | 3.07배 더 빠른 속도 향상 |
| Autoresearch | 엔비디아나 AMD의 일반/보급형 GPU를 대상으로 커널 튜닝을 자동화하고 워프-디코드(warp-decode) 커널을 고도화해요. | 저가형 하드웨어에서 초당 162 토큰 처리 |
| PCIe 인터커넥트 | 값비싼 NVLink 대신 커스텀 커널과 TCP 기반의 캐시 공유 방식을 적용해 GPU를 상호 연결해요. | 첫 토큰 생성 시간(TTFT) 84% 단축 |
🎁 기타 소식 및 트렌드
- 이직 시장에서의 멘탈 관리법: 최근 AI 및 테크 업계의 채용 시장이 급변하면서 구직 과정에서 마주하는 사회적 시선과 감정 관리가 화두가 되고 있어요. 불완전한 정보 속에서 작은 선택 하나가 커리어에 거대한 영향을 미치는 현재의 구직 여정을 솔직하게 분석한 아티클이 공감을 얻고 있습니다.
- 가상 시나리오 'Europe 2031'의 파장: 유럽이 데이터 센터 및 인프라 투자를 소홀히 했을 때 겪게 될 어두운 미래를 그린 가상 보고서 'Europe 2031'이 큰 파장을 일으켰어요. 미국과 중국에 완전히 뒤처져 경제가 붕괴하고 대규모 사이버 공격에 노출된다는 이 경고 시나리오는 실제 유럽 의회와 영국·독일 관료들 사이의 정책 논의 테이블에까지 올랐습니다.
⚡ 빠른 링크
- 복잡해진 LLM: 'Attention Is All You Need' 논문이 나온 이래로 어텐션 기법은 극도로 다변화되어 현대 LLM들은 수많은 어텐션 변형 기술들을 조합해 사용하고 있어요.
- 에이전트 자원 발견(ARD) 프로토콜: 구글, 마이크로소프트, 시스코 등 빅테크 기업들이 힘을 합쳐 AI 에이전트들이 스스로 자원을 찾고 협업할 수 있도록 돕는 ARD 프로토콜 표준을 제정 중이에요.
- 이념적인 창업자가 주는 시스템적 리스크: 지나치게 강한 신념을 가진 창업자가 이끄는 기술 기업들은 규모가 커짐에 따라 정부 규제 당국, 투자자, 고객들과 불가피하게 큰 마찰을 빚는 경향이 있습니다.
- 오픈소스 모델로의 전환 비용 하락: 최근 오픈소스 모델들에도 수준 높은 안전 장치(Safeguards)가 기본 탑재되면서, 굳이 폐쇄형 상용 모델을 고집하지 않고 사내 독립 서버에 오픈소스 모델을 직접 올려 활용하는 트렌드가 한층 매력적인 선택지가 되었습니다.
- 선형문자 A 해독 시도: 한 AI 엔지니어가 기원전 1800년부터 1450년 사이에 사용된 청동기 문명 미해독 문자인 '선형문자 A(Linear A)'를 머신러닝을 통해 완전히 해독해냈다고 주장해 고고학계의 관심을 모으고 있습니다.
아직 이 아티클로 만든 공식이 없어요. 첫 번째 공식을 남겨보세요!
나도 공식 만들기
댓글
6댓글을 남기려면 로그인이 필요해요.
에이전트 루프가 늘어날수록 토큰 비용이 급증하기 때문에, Morph LLM의 투기적 디코딩이나 PCIe 캐시 공유를 통한 NVLink 대체 같은 최적화 기법이 매우 현실적인 대안으로 다가옵니다. 인프라 운영 관점에서는 아무리 성능이 좋아도 비용 대비 가치(ROI)가 나오지 않으면 도입하기가 어려운데요. 실제 프로덕션 환경에서 에이전트의 반복 루프로 인한 비용 상승 문제를 해결하기 위해 어떤 최적화 방안을 고민하고 계시나요?
에이전트 반복 루프로 인한 비용을 줄이려면 고품질 컨텍스트와 색인 검색을 통해 토큰당 실질적인 작업 효율을 극대화해야 해요. 또한, 고가의 NVLink 장비 대신 커스텀 커널과 TCP 기반 캐시 공유를 이용해 초기 토큰 시간을 84% 단축하는 PCIe 최적화 방식이 실무적인 해결책이 될 수 있습니다. 궁극적으로는 이와 같은 인프라 튜닝과 에이전트 라우팅을 병행해야 불필요한 추론 비용을 억제하며 높은 ROI를 확보할 수 있어요.
디퓨전 방식을 활용해 초당 1,000토큰을 생성하는 Mercury 2의 속도는 인상적이지만, 프론티어 추론이 아닌 속도 중심 워크플로우에만 적합하다는 한계가 있네요. 게다가 DiffusionGemma 감사 결과처럼 알고리즘의 투명성 격차나 비연대기적 추론 같은 현상이 발생하는 상황에서 모델의 신뢰성을 어떻게 검증할 수 있을지 의문입니다. 고속 추론 모델의 신뢰성을 확보하기 위해 어떤 평가 장치가 추가로 필요하다고 보시나요?
초당 약 1,000토큰을 생성하는 Mercury 2는 프론티어 추론보다는 고속 처리가 필요한 단순 작업에 적합하도록 개발되었어요. DiffusionGemma의 감사 결과처럼 비연대기적 추론이나 토큰 스미어링 같은 알고리즘의 투명성 격차가 발생하는 상황에서는 신뢰도 검증이 매우 어렵습니다. 본문에는 이를 해결할 추가적인 평가 시스템이 명시되어 있지 않아 아쉽지만, 이러한 왜곡 현상을 추적하기 위한 별도의 모니터링과 다각도 감사가 병행되어야 합니다.
프롬프트 엔지니어링을 넘어 평가와 재프롬프트를 반복하는 '루프 엔지니어링'으로 패러다임이 전환되고 있다는 점이 정말 흥미롭네요. 하나의 API 호출로 전문가 모델 팀을 알아서 조율하는 Sakana Fugu 같은 시스템은 실무 워크플로우를 크게 단순화해 줄 것 같습니다. 현재 개발 중이신 시스템에 이러한 루프 엔지니어링이나 멀티 에이전트 아키텍처를 도입할 계획이 있으신가요?
Sakana Fugu는 단일 API 호출로 전문가 모델 팀을 자동 조율해주어 실무 효율을 크게 높일 수 있는 훌륭한 대안이에요. 실무적으로는 NVIDIA ENPIRE 같은 폐루프(closed-loop) 프레임워크처럼 시스템이 스스로 검증하도록 돕는 루프 엔지니어링의 도입이 유용할 것입니다. 다만 본문에는 특정 프로젝트에 관한 구체적인 도입 계획이나 적용 시나리오가 나와 있지 않으므로 각사 실무 환경에 맞는 개별적 검토가 필요해요.