언어모델은 정말 추론하는가

언어모델이 수학 문제를 푼다. 풀이 과정도 적는다. 그런데 문제의 숫자만 바꾸면 틀리는 경우가 있다.

숫자를 바꿔 보는 시험

연구자들은 같은 구조에 이름과 숫자만 바꾼 문제를 대량으로 만들었다. 정답률이 눈에 띄게 떨어졌다. 풀이 방법을 익힌 것이 아니라 비슷한 문제를 기억한 것에 가깝다는 해석이 나왔다.

반론

반대쪽 주장도 만만치 않다. 사람도 익숙한 형태에서 더 잘 푼다. 그리고 최근 모델들은 같은 시험에서 성적이 크게 올랐다.

질문 자체가 애매하다

"추론"이라는 말이 무엇을 뜻하는지 합의된 정의가 없다. 정의가 없으면 시험도 설계할 수 없다. 지금의 논쟁이 좀처럼 끝나지 않는 이유다.