월말에 한 대표님과 AI 도구 사용료 청구서를 함께 들여다본 적이 있어요. "생각보다 많이 나왔네요." 짧은 한숨 뒤에 이어진 질문은 이거였어요. "이걸 다 비싼 AI로 돌려야 했던 걸까요?" 그 질문이 꽤 오래 머릿속에 남았어요.
마침 Anthropic이 초고속·저비용 소형 모델인 Claude Haiku 5.5를 출시했다는 소식이 나왔어요. 요약, 데이터베이스 질의, 분류처럼 반복되는 대량 업무에 초점을 맞춘 모델이에요. 오늘은 이 소식이 AI 비용을 고민하는 분들께 어떤 의미인지 차분히 정리해 볼게요.
Claude Haiku 5.5는 어떤 모델일까요?
Claude Haiku 5.5는 Claude 제품군에서 속도와 비용 효율에 무게를 둔 소형 모델로 이해할 수 있어요. 발표에서는 이전 세대 대비 약 75% 낮은 가격, 캐시 읽기 가격 50% 인하, 에이전트 코딩 지원이 함께 언급됐어요.
기업이 실제로 AI를 쓸 때는 한두 번의 질문보다 수천, 수만 건의 반복 요청이 많아요. 문의 분류, 문서 요약, 내부 데이터 조회 같은 일이요. 이런 일에 늘 가장 강력한 모델을 쓸 필요는 없어요. 실무에서는 모델의 역할을 대략 이렇게 나눠 볼 수 있어요.
| 구분 | 주요 목적 | 적합한 업무 |
|---|---|---|
| 고성능 대형 모델 | 정교한 추론 | 전략 보고서, 복합 판단 |
| 중간급 모델 | 성능과 비용 균형 | 문서 작성, 응대 보조 |
| Haiku형 소형 모델 | 속도와 비용 효율 | 요약, 분류, 데이터 질의 |
이 표는 특정 벤치마크 수치가 아니라, 모델을 어떻게 배치할지 이해하기 위한 실무적 구분이에요. 가격 인하는 단순히 월 사용료가 줄어드는 문제가 아니에요. 같은 예산으로 더 많은 일을 자동화하거나, 비용 때문에 미뤄 두었던 업무까지 AI를 넓혀 볼 수 있다는 뜻이에요.
가격이 내려가면 비용도 그만큼 줄어들까요?
꼭 그렇지는 않아요. AI 비용은 모델 사용료만으로 정해지지 않거든요. 입력과 출력 토큰, 캐시 사용, 데이터 전처리, 로그와 보안 점검, 그리고 AI가 업무에 맞게 돌아가도록 지침과 검수 체계를 만드는 비용까지 함께 들어가요.
캐시는 자주 참고하는 정보를 매번 새로 처리하지 않게 돕는 방식이에요. 회사 정책 문서나 제품 설명서처럼 반복되는 자료를 캐시에 두면 이후 요청을 더 효율적으로 처리할 수 있어요. 그래서 캐시 읽기 가격 50% 인하는 같은 자료를 바탕으로 다양한 질문이 이어지는 고객센터, 내부 지식 검색 같은 업무에 특히 유리할 수 있어요.
다만 호출이 쉬워질수록 사용량이 늘어나는 일도 흔해요. 단가는 내려갔는데 요청 건수가 크게 늘면 총비용은 비슷하거나 오히려 늘 수도 있어요. 그래서 함께 봐야 할 지표가 있어요.
- 업무별 월간 요청 수
- 요청당 평균 입력·출력 토큰 수
- 캐시 적용률과 적중률
- 자동화 뒤 사람 검수에 드는 시간
- 응답 실패나 재시도 비율
한 번 호출하는 단가보다 업무 1건을 끝내는 데 드는 전체 비용으로 보는 게 더 현실적이에요.
어떤 업무부터 맡기면 좋을까요?
발표 내용상 Haiku 5.5는 요약, 데이터베이스 질의, 분류에 맞춰져 있어요. 기준이 비교적 분명하고, 건수가 많고, 고성능 모델이 매번 필요하지 않은 일들이에요. 회의록에서 결정 사항을 뽑거나, 고객 문의를 유형별로 나누거나, 리뷰에서 장점과 불만을 분리하는 일이 대표적이에요. 데이터베이스 질의에 쓸 때는 AI가 만든 질의문을 바로 실행하기보다 한 번 검증하는 단계를 두는 게 안전해요.
핵심은 모델 라우팅이에요. 요청의 난이도와 목적에 따라 알맞은 모델을 고르는 방식이에요. 단순 분류와 짧은 요약은 저비용 고속 모델에, 복잡한 해석은 상위 모델이나 전문가 검토에 맡겨요. 특히 법률, 의료, 금융 의사결정은 AI 단독 판단을 피하고 사람 승인을 두는 게 원칙이에요. 도입 전에는 내부 평가 세트를 만들어 정확도, 일관성, 응답 속도, 재시도율, 검수 부담을 숫자로 확인해 두시면 좋아요.
함께 언급된 에이전트 코딩 지원도 눈여겨볼 만해요. AI가 코드 한 조각을 쓰는 데서 나아가 여러 단계의 작업을 계획하고 파일을 고치며 테스트를 돕는 방식이에요. 소형 모델이 복잡한 개발을 모두 대신하긴 어렵지만, 반복적인 코드 정리나 테스트 초안처럼 잦고 시간이 드는 일에는 도움이 될 수 있어요.
이 소식은 병·의원 홈페이지에 어떤 의미일까요?
병원에도 반복되는 글 업무가 많아요. 홈페이지 상담 문의 분류, 자주 묻는 질문 정리, 블로그 초안 요약, 리뷰 내용 정리 같은 일이요. 저비용 모델이 나오면 이런 업무에 AI를 써 볼 문턱이 낮아져요.
병원 홈페이지 제작 전문 에이전시로 일하면서 저희가 함께 그리는 그림은 나눠 쓰기예요. 문의 유형 분류나 단순 요약은 가벼운 모델로 빠르게 처리하고, 환자분께 바로 보이는 답변이나 진료 관련 안내는 사람이 최종 확인하는 구조로 두는 거예요. 크로스디자인랩은 홈페이지 상담 폼과 AI 도구를 연결할 때 이 경계를 먼저 정해요.
개인정보도 같은 무게로 봐야 해요. 상담 문의에는 이름과 연락처, 증상이 담기기 쉬워요. AI에 넘기기 전에 마스킹하거나 익명화하고, 응답 로그의 보관 기간과 열람 권한을 정해 두는 게 좋아요. 크로스디자인랩이 병원 홈페이지 제작 전문 팀으로서 상담 기능을 설계할 때 비용보다 이 부분을 먼저 여쭤보는 이유예요. 상담 흐름이 궁금하시면 상담 신청으로 편하게 문의 주셔도 좋아요.
지금 해 볼 수 있는 일
AI 시장의 경쟁은 성능을 넘어 운영 비용과 쓰기 편함으로 옮겨 가고 있어요. 하나의 대형 모델로 모든 일을 처리하기보다 여러 모델을 조합하는 모델 포트폴리오가 더 현실적인 선택이 되고 있어요. 작은 실험으로 기준을 만드는 게 가장 안전해요.
- 반복이 많고 위험이 낮은 업무를 하나 골라요.
- 지금 그 일에 드는 시간과 비용을 먼저 적어 둬요.
- 샘플 데이터로 AI 결과의 정확도를 확인해요.
- 사람이 검수하는 반자동 방식으로 시작해요.
- 정확도, 속도, 비용을 함께 보고 넓혀 가요.
싸게 쓰는 것보다 알맞게 쓰는 게 더 중요해요. 우리 병원에 맞는 AI 활용 범위를 정리해 보고 싶으시면, 크로스디자인랩의 병원 홈페이지 제작 전문 팀과 함께 고민해 보셔도 좋아요.
