#Karpathy
3개 글
- ai-automation
LLM 할루시네이션이 사내 AX 의 진짜 함정인 이유, 5가지 방어 패턴
Karpathy 가 'LLM 은 본질적으로 dream machine' 이라고 한 표현이 사내 AX 도입의 핵심 함정을 정확히 짚습니다. 할루시네이션은 데모에서는 가끔, production 에서는 매번 일어납니다. 베비투스랩이 운영 중에 직접 본 환각 사례 1 건 포함, 사내 시스템에서 막는 5 가지 방어 패턴을 정리했습니다.
- ai-automation
ChatGPT Agent 가 사내 OS 가 될 수 있나
Karpathy 가 말한 LLM OS 비유가 ChatGPT Agent 로 현실에 도달하는 중입니다. 그러나 사내 OS 로 그대로 가져다 쓰면 4 가지 함정이 있습니다. 컨텍스트 한계, 데이터 sovereignty, 거버넌스 공백, Agent 자율성 위험을 정리한 노트입니다.
- ai-automation
Karpathy의 '5의 9' 관점에서 본 사내 AX 도입의 진짜 함정
Karpathy가 자율주행에서 가져온 '5의 9' 비유는 사내 AX 도입에 그대로 적용됩니다. 데모 90%와 production 99.999% 의 비용 곡선이 완전히 다릅니다. 사내 시스템에 AI 붙일 때 어디까지 가야 하는지, 단계별로 정리한 노트입니다.