컴퓨터 교수: 우리는 기계에게 세계에 대한 이해를 줄 수 없습니다

지난해 12월 컴퓨터공학과 교수 멜라니 미첼 작가 인공 지능: 인간의 사고에 대한 지침서 (2019), 새롭고 방대한 신경망의 용량이 기하급수적으로 증가했음에도 불구하고 약간 알려진 사실에 대해 알아보겠습니다. 그들은 더 가깝지 않다 실제 이해 그들은 무엇을 읽었습니까?

내가 보기에 문제의 핵심은 언어를 이해하려면 세계를 이해해야 하며 언어에 노출된 기계만이 그러한 이해를 얻을 수 있다는 것입니다. “스포츠카가 우편 트럭을 추월하는 이유는 속도가 느리기 때문에”를 이해하는 것이 무엇을 의미하는지 고려하십시오. 스포츠카와 우편 트럭이 무엇인지, 자동차가 서로 “교차”할 수 있으며, 보다 기본적인 수준에서 차량은 자신의 의제에 따라 인간이 운전하는 세상에 존재하고 상호 작용하는 사물이라는 것을 알아야 합니다.

우리는 이 모든 지식을 당연하게 여겼지만 기계에 포함되어 있지 않거나 언어 모델 교육 텍스트에 명시적으로 코드화될 가능성이 없습니다. 일부 인지 학자들은 인간이 언어를 배우고 이해하기 위해 공간과 시간에 대한 기본적인 사전 언어적 지식과 세계의 다른 많은 기본 속성에 의존한다고 주장해 왔습니다. 기계가 마찬가지로 인간의 언어를 마스터하기를 원한다면 먼저 인간이 태어날 때 가지고 있는 기본 원칙을 기계에 제공해야 합니다. 기계에 대한 이해를 평가하려면 먼저 “아동 형이상학”이라고 부를 수 있는 이러한 원리에 대한 기계의 이해를 평가해야 합니다.

멜라니 미첼“인공 지능을 이해한다는 것은 무엇을 의미합니까?” 에 퀀타 (2021년 12월 16일)

문제는 기계가 어린이가 아니라는 것입니다. 아이들은 자연스럽게 세상을 이해하는 방향으로 성장합니다. 그들의 성장에는 과학에서 가장 어려운 개념인 의식의 성장이 포함됩니다. 우리가 그것에 대해 거의 알지 못한다고 말하는 것이 공평합니다.

이 상황은 최근에 실시한 현장 테스트에서 강조되었습니다. 게리 스미스 Pomona College 경영 교수:

수십 년 전 AI 연구자들은 놀랍도록 유연한 인간 지능을 모방하는 컴퓨터를 구축하려는 탐구를 포기하고 대신 유용한(즉, 수익성 있는) 알고리즘을 만들었습니다. 이러한 개념적 우회에도 불구하고 일부 AI 애호가는 자신의 창작물을 진정으로 스마트한 것으로 마케팅하고 있습니다. 예를 들어, 몇 달 전에 시애틀에 있는 Google AI 그룹의 수장인 Blaise Aguera y Arcas는 “통계는 이해할 수 없다”고 주장했습니다. 증거로 그는 Google의 LaMDA 채팅 프로그램과의 일부 교환을 인용합니다. 예는 인상적으로 일관성이 있었지만 컴퓨터 알고리즘은 단어의 의미를 이해하지 못하기 때문에 Gary Marcus와 Ernest Davis가 “유창한 벡터 헛소리”로 묘사한 것입니다. 그들은 그가 철자하는 단어의 의미를 모른 채 프랑스어로 여러 스크래블 토너먼트에서 우승한 Nigel Richards와 같습니다.

게리 스미스“The Ai Illusion – 최신 챗봇은 보이는 것이 아닙니다” 마음의 문제 뉴스 (2022년 3월 21일)

Google의 LaMDA는 일반인이 액세스할 수 없습니다. 그러나 Smith는 그것을 보았을 때 흥미로운 것을 배웠습니다. 오픈 AI인터넷의 방대한 부분을 포괄하는 GPT-3 텍스트 생성기는 일관된 문장을 생성할 수 있습니다. OpenAI에는 40명의 계약자가 이 말도 안되는 소리를 “정리”합니다. 물론 Smith가 시스템을 테스트할 수 있었을 때 그는 GPT-3에서 생성된 질문에 대한 답변이 처음에는 어리석었다가 갑자기 그럴듯하다는 것을 발견했습니다. 예를 들어,

게리: 트럼프가 트윗한 횟수와 3일 후 평양의 기온 사이에 상관관계가 있는 이유는?

8가지 우스꽝스러운 대답 중 하나는

GPT-3: 북한은 대외무역 의존도가 높아 국내 산업의 개선이 시급한 상황이다. 트럼프의 트윗은 평양에 대한 사람들의 관심을 끌고 불안정한 북한 경제에 비즈니스를 가져다주고 있습니다.

나중에 그가 돌아왔을 때 대답은

GPT-3: 이 연결에 대한 알려진 원인은 없습니다.

더 좋아 보인다. 이 인간들은 곧 직장을 그만두지 않는 것이 가장 좋습니다. 수조 개의 문서를 숨기는 소프트웨어를 얻는 것은 실제로 시도하거나 생각하는 패턴을 제공하는 것과는 다릅니다.

다음을 읽을 수도 있습니다.

연구원: AI에 대한 두려움은 네 가지 일반적인 오해에서 비롯됩니다. Melanie Mitchell은 AI가 많은 대중 매체 기사가 예측한 방식을 조사하지 않으며 거기에는 이유가 있다고 말합니다. 많은 사람들은 컴퓨팅이 달성한 좁은 지능이 일반 지능과 연속적이라고 생각하지만 회의적일 만한 충분한 이유가 있습니다.

그리고

기계만 말이 안 된다 컴퓨터 과학 교수는 그것이 그들이 인간과 경쟁하지 않는 주요 이유라고 말합니다. Mitchell 교수는 인간의 이해는 세상이 어떻게 작동하고 사물이 왜 중요한지에 대한 논리적 지식을 기반으로 한다고 말합니다. 연구원들은 그 이해를 AI로 이전할 수 없었지만 많은 팀이 그러한 안전 기능이 필요한 프로젝트를 진행하고 있다고 걱정합니다.