Poate AI să gândească? Experimentul gândirii camerei chinezești al lui Searle

Utilizarea inteligenței artificiale pentru o gamă largă de scopuri a devenit din ce în ce mai populară. De la mașini cu conducere autonomă până la crearea de imagini premiate, analiza de miliarde de tweet-uri și (ironic) scrierea unor articole întregi. Nimeni nu poate nega că producția în creștere de date digitale și progresele în puterea de calcul ne-au schimbat viața de zi cu zi și modul în care gândim despre inteligență. Unii savanți precum Nicholas Christakis (un sociolog greco-american) s-au referit la inteligența artificială ca fiind una dintre tehnologiile radicale care vor schimba interacțiunile umane .

Totuși, este un drum lung înainte; și renumitul filosof John Searle a susținut că AI nu poate niciodată cu adevărat gândi cum fac oamenii . Pentru a demonstra acest lucru, el a construit faimosul argument chinezesc al camerei, care a devenit extrem de influent în filosofia contemporană.

Configurarea argumentului camerei chinezești: două tipuri de IA

O distincție între Inteligenţă artificială (AI) și Inteligența generală artificială (AGI) este de ajutor în acest moment. Cei mai mulți dintre noi interacționăm deja cu un anumit tip de inteligență artificială. În primul caz, computerele și mașinile imită inteligența umană într-un sens restrâns; de exemplu, un AI poate fi bun la filtrarea și analiza miliarde de cuvinte pe Twitter, dar foarte prost la înțelegerea unei glume; sau grozav la conducere sau la șah, dar nu la ambele. Limitarea în IA este atunci o lipsă de flexibilitate și o absență a învățării continue; modelele trebuie instruite înainte de a putea fi implementate.

Jeff Hawkins, antreprenor și om de știință în neuroștiință, explică că, spre deosebire de AI, AGI se referă la crearea de „mașini care pot învăța rapid sarcini noi, pot vedea analogii între diferite sarcini și pot rezolva în mod flexibil noi probleme” (2021, p.119). Și aici se dă peste o discuție filozofică: este posibil un astfel de AGI? Nu ne interesează să știm dacă această „Inteligentă” ar fi bună sau rea (moral vorbind), sau ar aduce utopii sau distopii; mai degrabă, investigăm posibilitate a unei astfel de Inteligenţe.

Argumentul camerei chinezești a lui Searle

Filosoful John Searle, influențat de Filosofia de mai târziu a lui Wittgenstein , a abordat această problemă în cartea sa Minți, creier și știință (1984). El a susținut că programele pot imita procesele mentale realizate de oameni, dar numai în mod formal, adică nu a intelege ce fac ei. Cu alte cuvinte, o astfel de inteligență este doar să urmeze un set de reguli (algoritmi) fără a le atribui sens. Pentru a-și ilustra mai bine punctul de vedere, a conceput un experiment de gândire: Camera Chineză.

Searle ne cere să ne imaginăm închiși într-o cameră în care pot fi găsite diverse coșuri cu simboluri chinezești. În acea cameră, vei găsi o carte de reguli în limba ta maternă cu instrucțiuni despre cum să manipulezi caracterele chinezești. Caietul de reguli oferă doar reguli precum: „dacă vedeți simbolul [X], răspundeți cu simbolul [Y]”, și așa mai departe. În acest sens, nu ajungi niciodată să cunoști semnificația acelor simboluri chinezești.

Să presupunem, în plus, că unele caractere chinezești sunt strecurate sub ușă de cineva din afara camerei. Puteți răspunde la aceste mesaje luând personaje din coșuri, ordonându-le conform regulamentului și strecurându-le sub ușă. Să presupunem că instrucțiunile sunt atât de clare și detaliate încât foarte curând răspunsurile tale nu se pot distinge de cele ale unui vorbitor nativ. Persoana din afara camerei crede că înțelegi și vorbești mandarină.

Searle întreabă apoi: putem concluziona că știi mandarină? Se pare că nu. Prin analogie, deoarece acest lucru se întâmplă cu inteligența artificială, AI nu a intelege asa cum fac oamenii. Searle scrie: „înțelegerea unei limbi (...) implică mai mult decât a avea o grămadă de simboluri formale. Ea implică o interpretare sau o semnificație atașată acelor simboluri” (2003, 31). Apoi, se pare că drumul către Inteligența Generală Artificială este blocat de limitări inerente.

Avansare tehnologică și jocuri de imitație

Vă puteți întreba: cum rămâne cu progresul tehnologic? Poate în cele din urmă să depășească aceste limitări? Algoritmii de învățare automată devin din ce în ce mai complexi, iar cantitatea de informații de pe internet folosită pentru a antrena astfel de modele se extinde exponențial. Mai simplu spus, pare că este o chestiune de timp până când un AI poate înțelege limbajul și nu pur și simplu să-l reproducă. Întrebarea nu este Cum, dar când .

Împotriva acestei linii de gândire, Luciano Floridi, profesor la Universitatea din Oxford, este de acord cu Searle. Indiferent de progresele tehnologice, spune el, limitarea inerentă a AI va rămâne. Este ca și cum ai înmulți numerele cu zero: indiferent de cât de mare este numărul, rezultatul va fi întotdeauna zero. Revenind la experimentul de gândire chinezesc al lui Searle, chiar dacă manualul de instrucțiuni devine mai complex și mai complex, persoana din cameră nu va înțelege niciodată mandarina.

Într-o altă direcție, s-ar putea observa că în camera chinezească a lui Searle, ideea este că oamenii de afară sunt convinși că ești fluent în mandarină. Nu asta e toata ideea? Nu ar fi suficient? Pentru Alan Turing , părintele Inteligenței Artificiale, dacă cineva nu poate face distincția între un om și o mașină, acel program a reușit! Ar putea fi suficientă simularea?

Nu trebuie să speculăm. Exemplele se găsesc cu ușurință: asistentul virtual Google poate efectua apeluri telefonice și poate aranja întâlniri fără ca oamenii să-și dea seama că vorbesc cu un AI; Modelul Open AI GPT-3 a fost intervievat de YouTuberi; în cele din urmă, probabil că ați interacționat cu un chat-bot atunci când aveți nevoie de asistență cu banca dvs. sau cu comanda de mâncare pe care ați plasat-o. După cum a spus Turing, este un joc de imitație .

Jocul de imitație, cu toate acestea, nu este suficient. După cum am menționat mai devreme, algoritmii unici pot depăși ființele umane în anumite sarcini, dar asta nu înseamnă că ei gândesc sau că învață continuu. Rețelele de învățare profundă pot juca șah (Deep Blue de la IBM) sau Go (AlphaGo) sau chiar pot câștiga la Jeopardy în emisiunile TV (Watson de la IBM), dar niciunul dintre ei nu știe că joacă un joc.

În plus, avem tendința să uităm că în timpul „confruntării” zeci de ingineri, matematicieni, programatori, cabluri, laptopuri și așa mai departe, se află în spatele AI-ului care face ca totul să funcționeze; sunt într-adevăr mari păpuși! Inteligența înseamnă mai mult decât a avea răspunsurile corecte sau a calcula mișcarea corectă. După cum scrie Jeff Hawkins: „Suntem inteligenți nu pentru că putem face un lucru deosebit de bine, ci pentru că putem învăța să facem practic orice.” (2021, p. 134)

Cheia se află în creierul nostru?

Având în vedere cele de mai sus, argumentul prezentat de camera chinezească a lui Searle rămâne în picioare. Deci, dacă simulările nu îndeplinesc idealurile inteligenței generale artificiale și imaginile pe care le avem din science fiction, de exemplu, eu Robot (2004) sau Ex Machina (2015), care este viitorul AI? Poate că este nevoie de o abordare diferită.

Când Deep Blue de la IBM a câștigat împotriva lui Garry Kasparov în 1997, marele maestru de șah a spus: „Orice putem face (…) mașinile o vor face mai bine (…) Dacă îl putem codifica și transmiteți-l computerelor, o vor face mai bine.” (În Epstein, 2019, p. 22). Există un indiciu în cuvintele lui Kasparov: dacă putem codifica ce facem. Chestia este că încă încercăm să înțelegem cum se face că ființele umane sunt inteligente și cum, de exemplu, își dezvoltă abilitățile lingvistice. Multe aspecte ale cunoașterii noastre rămân misterioase; încă trebuie să codificăm procesul. S-ar putea ca drumul către Inteligența Generală Artificială să fie închis de lipsa noastră de claritate cu privire la modul în care funcționează creierul?

Aceasta este atitudinea luată de Jeff Hawkins în cartea sa O Mie de Creiere (2021). El crede că un AGI trebuie să funcționeze ca și creierul nostru, ceea ce include capacitatea de a naviga în lume, adică de a avea un corp. Întruchiparea este crucială deoarece creierul funcționează prin intermediul corpului: învățăm atingând, mișcându-ne, văzând, auzind, explorând, gustând, întrebându-ne etc.

Un AGI ar avea nevoie, în mod similar, de senzori și mecanisme de mișcare. Corpul nu are nevoie să fie asemănător omului; este esențial doar a fi capabil să exploreze și să navigheze în lume. De aceea, neurologii, cercetătorii în robotică și dezvoltatorii AI trebuie să lucreze împreună. Consecința filozofică a acestei intuiții spulberă vechiul dualism al Rene Descartes : nu putem gândi fără corp.

Revenind la Camera chinezească a lui Searle, orice AGI ar avea nevoie de acces la alte informații contextuale: când sunt folosite aceste simboluri? Cum acționează oamenii când trimit aceste simboluri? Întinderea experimentului de gândire, ar fi necesare ferestre și senzori. După cum puteți observa deja, aceste modificări sunt legate de caracteristicile camerei mai degrabă decât de persoana care se află înăuntru. Folosind termeni tehnici, nu este vorba doar despre modul în care funcționează un CPU (unitate centrală de procesare) (ilustrat de persoana din interior), ci despre interacțiunea cu contextul său și abilitățile de navigare care ar putea fi atașate acelui CPU.

Din neatenție, camera chinezească a reprodus o reprezentare carteziană a inteligenței. Dacă s-au făcut aceste modificări, nu există niciun motiv pentru care camera – ca un intreg, per total – ar fi împiedicat să înțeleagă mandarină.

Consecințele argumentului camerei chinezești: ludiți sau utopici digitali?

Cred că Searle ar fi de acord cu Hawkins: dacă misterele creierului ar fi dezvăluite, un AGI ar fi fezabil. Hawkins este de părere că astfel de evoluții vor avea loc în următoarele două-trei decenii (2021, p. 145). Totul depinde de a descoperi, în primul rând, modul în care oamenii învață și gândesc și interacțiunea cognitivă dintre corpurile noastre și contextul care ne înconjoară.

Ce s-ar întâmpla în continuare? Care sunt consecințele unui AGI? Potrivit lui Max Tegmark, există ludiți, care cred că implicațiile vor fi negative pentru umanitate, în timp ce utopii digitali îi putem găsi de cealaltă parte, crezând că sosirea unor astfel de tehnologii marchează începutul unui timp mai bun pentru toți. Indiferent de poziția ta, un lucru este cert: capacitatea noastră de a gândi și de a învăța nu trebuie luată de la sine înțeles; în timp ce așteptăm ca IA să gândească, ar trebui să continuăm să ne explorăm capacitățile ca ființe umane.

Literatură

Epstein, D. J. (2019). Gamă (Kindle-Ver). Penguin Publishing Group.

Hawkins, J. (2021). O mie de creiere: o nouă teorie a inteligenței (Kindle Edi). Cărți de bază.

Searle, J. (2003). Minți, creier și știință . Presa Universității Harvard.

Tegmark, M. (2017). Viața 3.0. A fi uman în era inteligenței artificiale . Alfred A. Knopf.