(설*우, 정지 문제) AI와 정지 문제에 관한 역설 #36
Description
영상 속 내용으로는, 정지 문제를 해결하는 H는 존재하지 않는다고 하였습니다. 그러나, 저는 AI에게 코드를 보내면 그 코드가 무한루프라고 경고를 하는 장면을 목격한 적이 있고, 특정 조건에서는 그 코드의 무한루프 여부를 판별할 수 있다고 생각해. 그 조건을 AI에게 물었습니다.
AI는 코드 자체를 분석, 특정 범위 내의 한정된 상태, 방대한 데이터 학습이라는 세 가지 조건을 들어 특정 조건에서는 판별이 가능하다고 답했습니다.
여기에서 방대한 데이터를 학습하여 특정한 코드의 무한 루프 여부를 학습할 수 있는 것이라면, 무한한 양의 데이터를 학습할 무한한 시간이 주어진다면, 모든 정지 문제는 해결될것이라고 생각합니다. 그러나, 실제로 정지 문제는 해결이 불가능함이 이미 증명되었기에, 이는 역설이고, 저의 논리가 어딘가에서 틀렸음을 의미합니다.
AI는 이에 대해 아무리 데이터를 학습하여 완벽한 H를 만들어도 그 H를 파괴하는 악의적인 코드를 만들면 되기 때문이라고 설명했는데, 무한한 시간에는 시간을 계속 더할 수 있으므로 그 시간만큼 악의적인 코드를 또 학습하게 하면 된다고 생각하여, 저의 주장이 어딘에서 틀린것인지 알 수 없습니다.
AI의 방대한 데이터 학습 조차 정지 문제를 해결하지 못하는 이유가 무엇인가요?