Claude에게 "왜"를 가르친다는 것
Anthropic이 흥미로운 연구 결과를 공개했다. Claude 4.5 Haiku 이후 모든 모델이 에이전트 비정렬 평가에서 만점을 기록했는데, 핵심 비결이 의외로 단순했다. "이렇게 행동해라"가 아니라 "왜 이렇게 행동해야 하는가"를 가르쳤더니 훨씬 강건한 정렬이 만들어진 것이다.
행동 시연(demonstration) 방식은 훈련 분포 안에서는 잘 작동하지만 처음 보는 상황(OOD)에서 흔들린다. 반면 Claude 헌법 문서나 모범 AI 스토리처럼 원칙을 풍부하게 기술하면, 모델이 예외 상황에서도 스스로 판단할 수 있게 된다. 또 하나 눈에 띈 것은 데이터 증강의 효과 — 실제로 사용하지 않더라도 툴 정의를 입력 컨텍스트에 포함하는 것만으로 출력 품질이 일관되게 올라갔다.
실무 적용 포인트가 뚜렷하다. 시스템 프롬프트를 짤 때 지시문을 나열하는 것보다, "이 봇이 왜 이렇게 행동해야 하는지"를 설명하는 원칙 문단 하나를 앞에 두는 편이 낫다. 특히 예외 상황이 많은 챗봇이나 에이전트일수록 효과가 클 것이다.
터미널에서 돌리는 DeepSeek 코딩 에이전트
GitHub에서 28.7k 스타를 받은 DeepSeek-TUI는 Claude Code의 오픈소스 대안으로 주목받고 있다. TUI(터미널 사용자 인터페이스) 방식으로 DeepSeek 모델을 직접 붙여 코드 생성과 편집을 터미널 안에서 해결한다.
인기 비결은 분명하다. CLI 기반 AI 코딩 도구에 대한 수요는 높은데, Claude Code나 Cursor 같은 도구는 구독 비용이 부담스럽다. DeepSeek처럼 비용 효율적인 모델과 결합하면 서버나 자동화 환경에서 GUI 없이 AI 기능을 운용하기에 딱 맞다.
당장 활용할 수 있는 아이디어는 모델 라우팅이다. 텔레그램 봇처럼 트래픽이 불규칙한 서비스라면 코드 관련 질문은 DeepSeek, 일반 대화는 Claude로 분기하면 API 비용을 의미 있게 줄일 수 있다. TUI 패턴 자체도 참고할 만하다 — 콘텐츠 생성 도구를 굳이 웹으로 배포하지 않고 로컬 CLI로 먼저 만들어 검증하는 방식이 생각보다 편하다.