Symblogia

Blog za rasprave o filozofiji, znanosti i kulturi

Osnovna razlika mozga i računala koja to više nije?

Posted by Aleksandar Joksić dana 31/10/2010

Koja je osnovna razlika između rada mozga i rada računala? Ako zavirimo u standardni Uvod u psihologiju kao odgovor možemo naći ovo:

Već i na čistom tjelesnom području mozak obavlja takve zadatke koje ni jedan kompjuter ne bi ni u ‘tragovima’ mogao izvesti (npr. sviranje glasovira, gdje je potrebno istovremeno regulirati mišićni rad deset prstiju). A ako se radi o mentalnim aktivnostima, mi katkada samo imamo (lažni) dojam da poneki roboti ili računala obavljaju začuđujuće mentalne operacije: jer, te operacije sastoje se od fantastično brzog obavljanja pojedinih zadataka. Neko računalo zaista će u času obaviti neke računske zadatke ili programe, za koje bi čak i vrhunski stručnjak trebao neusporedivo više vremena, ali će računalo obaviti samo one operacije za koje je programirano (što znači da operaciju poznaje onaj koji je sastavljao program za računalo). Ali, u operacijama za koje nije programirano, računalo je posve nemoćno. Evo jedan zgodan primjer razlike između rada čovjekova mozga i nekog savršenog računala: ako računalu, recimo, damo zadatak da nam nađe telefonski broj faraona Ramzesa II. računalo će u nekoliko sekundi pregledati sve raspoložive telefonske imenike i javiti nam da toga gospodina nema u popisu pretplatnika. A čovjek, ako mu damo isti zadatak – neće niti tražiti broj, jer mu je jasno da je to besmislen zadatak. Računalo, dakako, nije programirano da shvati besmislenost zadatka, i to je osnovna razlika između rada mozga i rada kompjutera.
(Boris Petz, Uvod u psihologiju, 2001, str. 40. Kurziv na kraju je dodan.)

Ovo mi se čini kao prilično paušalnim opisom “osnovne razlike” između rada mozga i kompjutera, no prije nego što dođem do glavne točke, evo par komentara na citirani paragraf.

Izgleda da autor suprotstavlja mentalne aktivnosti s bivanjem programiranim za određene aktivnosti; računalo je za razliku od čovjeka programirano za određene operacije, a za one operacije za koje nije programirano je nemoćno. No, kao što nas uči evolucijska pshologija, ljudski mozak sadrži module, urođene specijalizirane strukture kojima nas je opremila evolucija kao odgovor na određene selektivne pritiske te u tom smislu možemo reći i da je naš um „isprogramiran“. Evolucija putem prirodne selekcije je sastavila te programe i jednako kao što je računalo nemoćno kod operacija za koje nije programirano, tako je i ljudski um nemoćan za neke druge operacije za koje nije programiran.

Autor navodi jedan primjer koji bi trebao ilustrirati osnovnu razliku između mozga i “savršenog” računala, no ako bi to računalo doista bilo savršeno, ne postoji razlog zašto i ono ne bi u startu odbacilo traženje broja faraona kao besmisleno. Da je to besmislen zadatak znamo jer smo učenjem stekli informacije koje nam govore da je to besmisleno, a računalo također može steći istu informaciju.

Time dolazimo do glavne poante ovog posta. New York Times u nedavnom članku izvještava o ekipi istraživača sa Sveučilišta Carnegie Mellon koji ciljaju napraviti računalo koje bi moglo izbrisati ono što se u tekstu na početku ovog posta navodi kao osnovna razlika mozga i računala. Naime, oni rade na računalnom sustavu koji pokušava savladati semantiku učeći na sličan način kao i ljudi, kumulativno kroz dugotrajno razdoblje. Sustav koji se zove Never-Ending Language Learning system (ili skraćeno: NELL) radi 24 sata na dan, sedam dana na tjedan, skenirajući stotine milijuna web-stranica u potrazi za tekstualnim obrascima koje koristi kako bi učilo činjenice, a te činjenice su grupirane u semantičke kategorije: gradovi, poduzeća, glumci, sveučilišta, biljke i mnoge druge. Te kategorijalne činjenice su ovakvog tipa „San Francisco je grad“ i „Suncokret je biljka“.

NELL također uči činjenice koje su relacije između članova dvaju kategorija, a sve naučene činjenice se kontinuirano pridodaju bazi podataka koja je zapravo baza znanja, a ona neprestano raste. Na taj način se teži napraviti računalo s boljim razumijevanjem jezičnog značenja i mnogi takvi sustavi učenja već pokazuju impresivne rezultate. NELL je dizajnirana tako da se snalazi s riječima u različitim kontekstima tako što koristi hijerarhiju pravila kako bi razriješila dvosmislenosti, što je krucijalno za svakog kompetentnog govornika.

Istraživači navode primjer vrste znanja koje NELL dan danas još uvijek ne može svladati, ali koje bi jednog dana mogla. Uzmite dvije slične rečenice: “Djevojka je uhvatila leptira s točkicama” i “Djevojka je uhvatila leptira s mrežom”. Ljudski čitatelj trenutno shvaća da djevojka drži mrežu, a da djevojke obično nemaju točkice. Tako da su “točkicama” u prvoj rečenici povezane s “leptira”, a “mrežom” s “djevojka” u drugoj rečenici. “To je očito čovjeku, ali ne i računalu”, kaže računalni znanstvenik Dr. Mitchell i nastavlja: “Velik dio ljudskog jezika je pozadinsko znanje, znanje akumulirano kroz veliki period vremena. Tamo NELL smjera i izazov je kako doći do tog znanja”.

Na kraju mogu reći da ne vidim prepreku da NELL jednog dana, ako već ne i sada, bude sposobna odbaciti zadatak traženja telefonskog broja Ramzesa II. Hoće li time biti ukinuta osnovna razlika između rada mozga i računala je druga priča.

27 Odgovora to “Osnovna razlika mozga i računala koja to više nije?”

  1. Marko said

    Zanimljiv blog. Kao laika u području zanima me nije li autor Uvoda u psihologiju već koristio mentalističke termine za računalo kod tvrdnje da računalo traži telefonski broj?

    • Zanimljiv blog. Kao laika u području zanima me nije li autor Uvoda u psihologiju već koristio mentalističke termine za računalo kod tvrdnje da računalo traži telefonski broj?

      Autor ih je koristio u prenesenom značenju jer je tako lakše govoriti o radnjama složenih materijalnih predmeta. Kako bi Dennett rekao, autor ima intencionalni stav prema računalu.

      • Marko said

        Dakle, prema Vama postoji razlika kada autor kaže da računalo traži broj u prenesenom značenju i kada to kaže u doslovnom značenju. Nije mi baš jasno u čemu se sastoji ta razlika. Čini mi se da hoćete reći kada je riječ o radnjama složenih materijalnih predmeta da govorimo o mentalističkim terminima u prenesenom značenju za razliku od radnji, ne znam, nematerijalnih predmeta?

        Usput bih dao par mogućih razloga zašto NELL ne bi mogla odbaciti traženje Ramzesa II. Za početak, sve što izgleda da NELL radi je skuplja stringove i stavlja ih u neke relacije. Ne dobiva gotovo nikakve nove kompetencije. Možemo to nazvati bazom znanja kao i bazom krumpira, razlika je u ambicijama programera, ne i u samom programu. Ako čovjek nauči što je derivacija funkcije, može derivirati funkcije i proširiti koncept derivacije na funkcije više varijabli itd. I to ne radi tako da prethodno nauči pravila zaključivanja à la prirodna dedukcija i onda melje teoreme u beskonačnost dok mi uživamo u plodovima (pretpostavimo da se uhvati ove linije dokazivanja: 1+1=2, 2+1=3… bezvrijedno).

        Ovo je filozofski blog pa ću si uzeti slobodu da malo maglovito kažem da NELL za razliku od čovjeka ne dopušta da koncepti imaju svoj život. Programeri se spase kada nauče koncept rekurzivnih funkcija, ne zato što ga mogu strpati u relaciju s drugim konceptom (premda možda i to rade kada ga uče), nego zato što im omogućava da prepoznaju rekurzivne funkcije u problemima koje rješavaju. Ovo što NELL radi izgleda više kao tanki prvi sloj koji mozak tek treba pročitati da bi išta shvatio, nešto kao ogromna knjiga.

        • Aleksandar Joksić said

          Hvala na komentaru. Kažete da NELL ne dobiva nikakve nove kompetencije, no ako ste pročitali izvorni linkani tekst s NYT (a to svima preporučujem) vidjet ćete da NELL doista posjeduje kompetencije. Npr. kako zaključuje da Payton Manning igra za Indianapolis Colts iako nigdje nije pročitala da on igra za njih. Zašto u budućnosti na sličan način ne bi povezala informaciju kada je živio Ramzes II. i koji je današnji datum (i slične informacije), eda bi zaključila da je traženje broja uzaludno?
          Naravno, iza NELL-a stoji programer i njegove ambicije, ali i iza svih nas stoje drugi ljudi i njihove ambicije. Kako se kaže na kraju teksta:

          His ideal, Dr. Mitchell said, was a computer system that could learn continuously with no need for human assistance. “We’re not there yet,” he said. “But you and I don’t learn in isolation either.”

        • Marko said

          Ne kažem da ne dobije nikakve kompetencije, nego gotovo nikakve. Trivijalno je da ima neke kompetencije, ali je pitanje koliko koristi od njih. Primjerice, NELL ne može naučiti pretraživati imenik određenim algoritmom. Recimo, da nauči koristiti binary search tj. da uzme ime u sredini imenika, pogleda koje je početno slovo prezimena, ako je to slovo po abecednom redu niže od traženog, da ponovi isti postupak s gornjom plovicom ili analogno s donjom imenika ako je početno slovo početnog više od traženog. On može “naučiti” da je binary search algoritam za pretraživanje, da mu je složenost ta i ta i slično, ali to nema prevelike veze s razumijevanjem i dobivanjem kompetencija kroz spoznaju novih ideja. Kako će primjerice shvatiti metaforu?

        • Aleksandar Joksić said

          Isprike na kasnom odgovoru. Meni nije jasno zašto bi spomenute kompetencije bilo ‘gotovo nikakve’, niti zašto je ‘trivijalno’ da ima neke kompetencije. Naravno, metafore predstavljaju problem za svakog tko želi objasniti jezik i nema sumnje da trenutno NELL ne može shvaćati nove metafore (one konvencionalne bi mogla zapamtiti kao što može zapamtiti bilo koji drugi idiom ili riječ). Za razumijevanje metafora NELL bi trebala posjedovati nekakvu teoriju uma. Npr. ako joj netko kaže ‘NELL, ti si moje sunce’, morala bi pretpostaviti racionalnost govornika (da govornik npr. ne halucinira da priča sa suncem itd.), a racionalnost opet mora biti povezana s vjerovanjima i željama tog govornika. Postoje već neki sitni koraci prema tome. No, ovime smo zapravo skrenuli s teme; pitanje je bilo može li NELL odbaciti kao besmislicu traženje broja faraona, a ne da li može steći sve jezične kompetencije poput one koja je potrebna za razumijevanje metafora.

        • Marko said

          Nema potrebe za isprikama🙂
          Žarulja se može upaliti i ugasiti. Možemo na prekidače nalijepiti tekst “upali” i “ugasi”. I naravno, žarulja se pali i gasi kada pritisnemo odgovarajući prekidač. Razumije li žarulja što znači tekst na prekidaču? Nama taj tekst nešto reprezentira, ali ne i žarulji. Ista je stvar s NELL. To što postoji određena formalna struktura koja nama reprezentira znanje, ne znači da je znanje tako implementirano u mozgu (ili izomorfno negdje drugdje ako je moguće). Ne želim reći da postoji jedinstvena realizacija znanja, nego da je u slučaju NELL ona orijentirana na ono što isključivo nama reprezentira znanje. To je lakši dio posla.

          Što se tiče teorije uma, slažem se da je pretpostavka racionalnosti nužan uvjet za razumijevanje ponašanja na intencionalnoj razini i čude me pokušaji nekih filozofa koji izvode racionalnost iz razumijevanja ponašanja.

          Međutim, sposobnost razumijevanja metafore i teorija uma lako mogu biti samo koekstenzivni (filozofski izrazi… ponekad su i korisni) kao u poznatom primjeru bića koja imaju bubrege (razumijevanje metafore) i bića koja imaju srce (teoriju uma). Interpretiranje rečenice i ljudi su, vjerujem, različite stvari. I kada spoznamo što je namjera sugovornika koji primjerice koristi sinegdohu kola za automobil, prethodno smo analizirali njegove rečenice da bismo otkrili namjeru. Dakle, mislim da je prebacivanje tereta s razumijevanja jezika na teoriju uma red herring. Sumnjam da ne bismo mogli razumjeti geometriju bez da poznajemo geodeta.

          Naravno, moguće je da postoje neki nezanimljivi razlozi zašto je teorija uma nužna: susjed bi nas iskoristio i ubio, umrli bismo od gladi ili ne bismo obraćali pozornost na ljude i naučili jezik.

          Što se tiče pitanja faraona, napravimo bazu podataka i uspoređujemo datum rođenja svih poznatih ljudi i imena… glupo.

        • Aleksandar Joksić said

          Žarulja se može upaliti i ugasiti. Možemo na prekidače nalijepiti tekst “upali” i “ugasi”. I naravno, žarulja se pali i gasi kada pritisnemo odgovarajući prekidač. Razumije li žarulja što znači tekst na prekidaču? Nama taj tekst nešto reprezentira, ali ne i žarulji. Ista je stvar s NELL.

          Ali ovo sa žaruljama je previše ‘primitivan’ primjer, a NELL je puno kompleksnija. Vaš stav me podsjeća na onaj od Searlea: imamo kompetenciju, ali nemamo razumijevanje. No što je uopće ‘razumijevanje’? Naša evolucijska prošlost se može shvatiti i kao postupno akumuliranje različitih kompetencija i ne možemo locirati neki konkretni trenutak u toj prošlosti i reći: ‘Od ovdje imamo razumijevanje’. No, to ne znači da moramo žaruljama pripisati razumijevanje. Searlov stav se onda svodi na ovo: ako bi dodavali jednu kompetenciju drugoj, nikada ne bi došli do razumijevanja (a to je apsurdno jer očito postoje bića koja ‘razumijevaju’). Stoga je za Searlea razumijevanje, kako bi rekao Dennett, neka vrsta skyhook-a. Nedostatak jezične suptilnosti (‘ili razumiješ ili ne razumiješ’) za neka stanja ‘polurazumijevanja’ nas tjera da ih zanemarujemo tamo gdje postoje zato što jezik teško prati gradualizam evolucije i njenih suptilnih nijansi.

          Ne želim reći da postoji jedinstvena realizacija znanja, nego da je u slučaju NELL ona orijentirana na ono što isključivo nama reprezentira znanje.

          Zašto je ovo problem? Nije li to i cilj?

          Što se tiče teorije uma, slažem se da je pretpostavka racionalnosti nužan uvjet za razumijevanje ponašanja na intencionalnoj razini i čude me pokušaji nekih filozofa koji izvode racionalnost iz razumijevanja ponašanja.

          Na koje filozofe mislite?

          Međutim, sposobnost razumijevanja metafore i teorija uma lako mogu biti samo koekstenzivni (filozofski izrazi… ponekad su i korisni) kao u poznatom primjeru bića koja imaju bubrege (razumijevanje metafore) i bića koja imaju srce (teoriju uma). Interpretiranje rečenice i ljudi su, vjerujem, različite stvari. I kada spoznamo što je namjera sugovornika koji primjerice koristi sinegdohu kola za automobil, prethodno smo analizirali njegove rečenice da bismo otkrili namjeru. Dakle, mislim da je prebacivanje tereta s razumijevanja jezika na teoriju uma red herring. Sumnjam da ne bismo mogli razumjeti geometriju bez da poznajemo geodeta.

          Nisam htio reći da su teorija uma i sposobnost razumijevanja metafora ‘koekstenzivni’ (tj. da tamo gdje imamo jedno, imamo i drugo) jer mislim da to činjenično ne stoji. Npr. Alzheimerovi pacijenti imaju problem s razumijevanjem novih (tj. originalnih) metafora iako imaju teoriju uma. Također nisam ni tvrdio da je teorija uma pretpostavka razumijevanja (cijelog) jezika (autisti imaju deficit kod ToM, ali razumiju jezik), već možda samo novih metafora. S druge strane, da bi komunikacija bila uspješna mislim da je itekako potrebno da sudionici u toj komunikaciji posjeduju teoriju uma (npr. Griceov program i njegovi modeli to svakako pretpostavljaju).

          Što se tiče pitanja faraona, napravimo bazu podataka i uspoređujemo datum rođenja svih poznatih ljudi i imena… glupo

          Zašto? Naravno, baza podataka ne mora sadržavati popis SVIH poznatih ljudi jer niti nitko od nas ne posjeduje takvo znanje. Ali mislim da se nešto slično događa i u našim glavama kada odbacujemo traženje broja faraona. Naprosto, već sam spomen nekakvog faraona izaziva asocijacije nečeg prastarog, dok telefon nečeg relativnog novog, tako da već na nekoj ‘inuitivnoj’ razini tu postoji nekakava diskrepancija i osjećamo da nešto ne štima.

        • Marko said

          Slažem se da je rad žarulje iz prespektive dizajna (kada već svi koriste Dennettove ideje, zašto ne bih i ja?) možda jednostavniji od NELL. Ja sam htio pokazati trivijalnu stvar da prekidač na kojem piše “ugasiti” nama reprezentira nešto sasvim drugo nego žarulji.

          Primjerice, jedna od rečenica (ne i činjenica) koju vidim na Twitteru da NELL zna jest: I think “radical Hamas” is a #TerroristOrganization. Njoj ta rečenica ne predstavlja ništa. Nema nikakav vrijednosni stav o tome, nikakve interese i nema pojma o čemu se radi. Nama ta rečenica nešto reprezentira jer imamo odgovarajući kognitivni aparat i kompetencije koje dolaze s njime. Ne može se razumjeti što znači da je čaša na stolu bez poimanja prostora i komputacije potrebne za pozicioniranje stvari. Dakle, rečenice koje generira NELL su samo nama jasne, ne i NELL koja radi jednostavne operacije s ulaznim podacima (u usporedbi s ljudskim mozgom).

          Zašto je ovo problem? Nije li to i cilj?

          Cilj je da rečenice prestavljaju kompjuteru isto (ili približno isto) što i nama.

          Na koje filozofe mislite?

          Zadnji kojih se sjećam su bili Stephen Stich i J. David Velleman.

        • Aleksandar Joksić said

          Slažem se da je rad žarulje iz prespektive dizajna (kada već svi koriste Dennettove ideje, zašto ne bih i ja?) možda jednostavniji od NELL. Ja sam htio pokazati trivijalnu stvar da prekidač na kojem piše “ugasiti” nama reprezentira nešto sasvim drugo nego žarulji.

          Slažem se da je to trivijalna stvar🙂 ali mislim da se radi o lošoj analogiji.

          Primjerice, jedna od rečenica (ne i činjenica) koju vidim na Twitteru da NELL zna jest: I think “radical Hamas” is a #TerroristOrganization. Njoj ta rečenica ne predstavlja ništa. Nema nikakav vrijednosni stav o tome, nikakve interese i nema pojma o čemu se radi. Nama ta rečenica nešto reprezentira jer imamo odgovarajući kognitivni aparat i kompetencije koje dolaze s njime. Ne može se razumjeti što znači da je čaša na stolu bez poimanja prostora i komputacije potrebne za pozicioniranje stvari. Dakle, rečenice koje generira NELL su samo nama jasne, ne i NELL koja radi jednostavne operacije s ulaznim podacima (u usporedbi s ljudskim mozgom).

          Mogao bih se složiti da u trenutnoj fazi NELL nema nikakve ‘interese’ u odnosu na navedenu rečenicu, ali ne vidim razlog zašto bi na tome moralo ostati (dakle, optimist sam!😀 ). Poimanje prostora bi se evenualno moglo riješiti ugrađivanjem senzornih aparata itd.

        • Ako se mogu malo zakašnjelo uključiti, čini mi se da je jedan od problema ono o čemu u zadnje vrijeme govori Fodor: mnogi naši kognitivni procesi izgledaju ne-komputacijski, ne-algoritamski, dakle ne kao lokalne transformacije formula u smislu manipuliranja njihovom sintaktičkom/konstituentskom strukturom, već ovise o “holističkim” procjenama poput relevantnosti. Računala pak funcioniraju algoritamski (oni su computers), i zbog toga za sada ne uspijevaju adekvatno modelirati naše (više) kognitivne procese. Postoji određena, izgleda ne-algoritamska, sposobnost koja, čini se, karakterizira ljudsku misao od sfera svakodnevnog interpretiranja govora (gdje je često uopće ne primjećujemo na svjesnoj razini) pa do znanstvenih otkrića – sposobnost skoka na najbolje objašnjenje (naziva se i abdukcijom, a tu se negdje krije i pitanje kreativnosti), duboko povezana s procjenama relevantnosti. Radi se o ne-deduktivnim operacijama za koje kompjuteri zasad nisu sposobni. Čini se da su moguća dva izlaza za one koji žele približiti mozak i kompjuter: ili će se pokazati da operacije mozga jesu algoritamske after all (kad se dovoljno “razlome”) ili će se pak pojaviti nova generacija kompjutera koja funkcionira po drukčijim načelima nego što je to zasad slučaj.

        • Primjerice, jedna od rečenica (ne i činjenica) koju vidim na Twitteru da NELL zna jest: I think “radical Hamas” is a #TerroristOrganization. Njoj ta rečenica ne predstavlja ništa. Nema nikakav vrijednosni stav o tome, nikakve interese i nema pojma o čemu se radi.

          Zasigurno postoje milijuni ljudi kojima ta rečenica, pa čak i prevedena na njihov jezik, ne predstavlja ništa. Mislite li da Matse indijanci oko Rio Galveza imaju nekakav vrijednosni stav o onom iskazu, ikakve interese ili pojam o čemu se radi?

          Cilj je da rečenice prestavljaju kompjuteru isto (ili približno isto) što i nama.

          Možete li ponuditi neki kriterij pomoću kojega bismo mogli procijeniti kada bi taj cilj bio ispunjen?

          BTW, vezano uz ovu raspravu preporučam Dennettov tekst “The Practical Requirements for Making a Conscious Robot” iz njegove zbirke Brainchildren.

        • Marko said

          @Joško Žanić
          Eventualno može biti riječ o drugoj arhitekturi računala jer u se načelu sva temelje na Turingovom stroju samo bez beskonačne trake. No razlozi su onda nezanimljivi (ovisno o struci, jasno). Možda je problem što je Von Neumannova arihtektura prespora, ali algoritmi koji se vrte na jednom stroju mogu se uvijek vrtjeti i na drugome tj. prevesti u strojne instrukcije i podatke za dani procesor.

          @Pavel Gregorić
          Ako Matse indijancima prevedemo rečenicu, razumjet će je, te ako su ljudi, dati će vrednosni sud. Inače je nismo preveli. Davidson je na tom tragu u tekstu “On the Very Idea of a Conceptual Scheme”. Prevođenje nije Google translate. Prije sam napisao:
          “Za početak, sve što izgleda da NELL radi je skuplja stringove i stavlja ih u neke relacije. Ne dobiva gotovo nikakve nove kompetencije… I to [se] ne radi tako da [se] prethodno nauč[e] pravila zaključivanja à la prirodna dedukcija i onda melje teoreme u beskonačnost”

          Dennett kaže u tekstu “Two Contrasts: Folk Craft versus Folk Science and Belief versus Opinion” upravo u Brainchildrenu: “Now an absolutely daft theory about how you got the joke – and this is probably not fair to Fodor but a caricature of sorts – is this: In come some sentences (in the ear – exactly the sentences – all those on our list – and soon brings them into a common workspace, where a resolution theorem-prover takes over, filling in all the gaps by logical inference. That is the sort of sententialist theory of cognitive processing that Fodor has gestured in the directon of, but nobody has produced a plausible or even workable version, so far as I know.”

          “Možete li ponuditi neki kriterij pomoću kojega bismo mogli procijeniti kada bi taj cilj bio ispunjen?”

          Da me netko usred noći probudi kablom hladne vode, rekao bih Turingov test. No vjerojatno postoje i suptilnije metode za procjenu (poput eksperimenata iz etologije). Za buđenje nisam siguran.

        • ali algoritmi koji se vrte na jednom stroju mogu se uvijek vrtjeti i na drugome

          No, stvar je upravo u tome da mnogi kognitivni procesi izgledaju ne-algoritamski, ne-deduktivno. Mi nemamo pojma kako funkcioniraju (kojim procesima je čovjek izumio kotač? kojim procesima je Einstein otkrio teoriju relativnosti?), ali izgleda da imaju neke veze s procjenama relevantnosti. Nova generacija strojeva koja bi tako nešto modelirala mogla bi se onda, umjesto computers, zvati relevanters🙂
          Btw, imate dosta zanimljive komentare, smijem(o) li saznati s koje ste institucije i struke?

        • @Marko

          Ako Matse indijancima prevedemo rečenicu, razumjet će je, ako su ljudi, dat će vrijednosti sud. Inače je nismo preveli.

          Nije li ovo cirkularno: ako Matse indijancima prevedemo rečenicu, oni će je razumjeti, a ako je ne razumiju, nismo je preveli.
          Osim toga, kako znate da su rečenicu razumjeli? Možda tako da postavite nekoliko pitanja tipa “Je li Hamas nešto dobro ili nešto loše”, pa vidite kako će odgovoriti? Pa i Nell već ima, ili može imati, kategorije “dobro” i “loše”, pri čemu je jedan od parametara za uvrštenje u potonju kategoriju taj da string bude 90% ili čvršće povezan s “terrorist organization” (ili tako nešto).
          Najzad, ne znam zašto mislite: (i) ako je X čovjek, X će imati vrijednosti sud o rečenici kao što je “Hamas je teroristička organizacija”; (ii) ako je X stroj, X neće imati vrijednosni sud o rečenici kao što je “Hamas je teroristička organizacija”.

          Nisam siguran jesam li shvatio poantu citiranog odlomka iz Dennettova teksta. Ako jesam, čini mi se da Dennett hoće reći samo to da sentencijalistička teorija ne stoji za nas ljude, a ne da ne može u principu stajati, recimo za strojeve. Osim toga, Dennett nastavlja: “Nobody believes that theory, I trust, but note that even if it and all its near kin (the other sententialist-inference engine theories) are rejected as theories about how you got the joke, our list of beliefs is not for that reason otiouse, foolish, or spurious. It actually does describe cognitive conditions (very abstractly considered) that have to be met by anybody who gets the joke.”

        • Marko said

          @Joško Žanić
          Na prvi pogled i eukariotska stanica izgleda kao savršeni stroj za koji je neki genijalni inženjer morao uočiti relevantni pattern u prirodi. Jasno je da mozak ne može biti rastrošan kao priroda, no otprilike je ovako kako Gustav Mahler kaže: “I don’t let myself get carried away by my own ideas – I abandon 19 out of 20 of them every day. ” Naravno, smrtnicima je teško dobiti i dvadeset ideja svaki dan. Što se tiče problema da ljudsko ponašanje izgleda ne-algoritmski, mislim da nema problema. Ljudi imaju predrasude prema algoritmima. Misle da su isključivo if-then-else nabrajanja uvjeta, ne i apstraktne strukture realizirane kroz takve jednostavne operacije.

          Hvala ako mislite da imam zanimljive komentare. No prestao sam s filozofijom (ovo me malo aktiviralo), ne vidim zanimljivih filozofskih problema osim u etici, ostalih su se uhvatile znanosti. Inače, student sam matematike na PMF-u. Pretpostavljam da znate vic o najjeftinijem studiju.

          @Pavel Gregorić
          Pa i nije cirkularno. To je uvjet: rečenica je prevedena ako i samo ako je razumljiva. Doduše, to nije uvijek praksa prevoditelja, ali to nema veze s filzofskom poantom.
          Namjerno sam naveo da NELL nema nikakve interese. Naime, štos je u tome da nikakvo statističko vezivanje rečenica ne može obaviti teški dio posla – reprezentiranje razloga. Sad, ja ne znam smatrate li Vi da agent ima razloge za neki vrednosni stav ili djelo neovisno o interesima (dakle, eksternalne razloge po B. Williamsu) ili ne, ali ako mislite kao ja da ne nema, NELL ne može vjerovati da je Hamas teroristička organizacija. Naravno, možemo koncept terorističke organizacije promijeniti u neku neutralnu formulaciju koja se vjerojatno ne bi svidjela velesilama, ali problem ostaje za bezbroj drugih stvari.

          Usput, vjerujem u (i) iz iskustvenih razloga. Ljudi smatraju da je nasumično ubijanje zlo. Stroj koji bi prošao Turingov test i bio motivacijski sličan ljudima bi mogao dati vrednosni sud. Dakle, ne smatram da je (ii) istina.

          Načelno je moguće da postoji sentencijalistička teorija. No ne mislim da su načelne stvari jako zanimljive. Načelno je moguć majmun koji otipka Hamleta. Mislim da je glavni problem ovdje što se brka internalna reprezentacija znanja s tekstualnim zapisivanjem znanja. Dakle, kada Dennett kaže da “It actually does describe cognitive conditions”, to ne znači da se zalaže i za empirijsku teoriju da je ta deskripcija izomorfna nekom stanju u mozgu. Šahovski program vjeruje da mu hoću napraviti šah-mat, ali nema to nigdje internalno zapisano u rečeničnom obliku, nego se očituje u njegovoj kompetenciji da me spriječava u matiranju.

        • @Marko

          Drago mi je da vas je Symblogia potaknula da aktivirate svoj interes za filozofiju, i to ovako intenzivno.

          Ako dobro shvaćam vaš prigovor, on se dade sažeti ovako: Nell ne može razumjeti jer nije djelatnik koji bi imao interese i reprezentirao razloge. No uploadajmo Nell u robota na kotačima, napravimo algoritam koji omogućuje (i) identificiranje low battery state, (ii) identificiranje štekera u zidu, (iii) izbjegavanje prepreka do štekera i (iv) prikapčanje i punjenje baterija. Može li Nell sada reprezentirati razloge i s razumijevanjem klasificirati stvari kao što su “obstacles”, “terrorist organizations” i sl. u kategoriju “loše”?

          Načelno je moguće da postoji sentencijalistička teorija. No ne mislim da su načelne stvari jako zanimljive. Načelno je moguć majmun koji otipka Hamleta.

          Slažem se da načelne stvari nisu jako zanimljive, ako “načelno” razumijemo u smislu u kojemu je načelno moguć majmun koji otipka Hamleta. Ali to nije smisao u kojemu je načelno ostvariva sentencijalistička teorija. Kao što sam rekao, mislim da je Dennettova poanta protiv Fodora bila da NAŠ um ne funkcionira u skladu sa sentencijalističkom teorijom, a ne da ništa ne može funkcionirati u skladu s takvom teorijom.

          Šahovski program vjeruje da mu hoću napraviti šah-mat, ali nema to nigdje internalno zapisano u rečeničnom obliku, nego se očituje u njegovoj kompetenciji da me spriječava u matiranju.

          Tako je, ali isto vrijedi i za ljude.

        • Marko said

          @Pavel Gregorić
          Problem je što ja ne znam je li to dobro.🙂

          Posljednji argument koji sam iznio se odnosi na vrednosne sudove. Znamo da NELL nema vlastite interese. Slijedi da NELL ne razumije cijelu klasu sudova u koje navodno vjeruje. Što onda NELL radi s njima?

          Razumijem što hoćete reći time da je dovoljno uploadati NELL u robota s interesima. Pretpostavljam da biste htjeli pokazati da je samo riječ o promjeni medija i da se ništa od važnosti nije promijenilo. No kako NELL zna da se uštekava u struju zato što će tako dobiti energiju, a ne zato što su teroristi zli? Kako pronalazi razloge koji su uzroci ponašanja*? Možemo reći da NELL ima bazu znanja iz koje crpi razloge. Na prvi pogled stvar izgleda jednostavno: pitajmo NELL zašto se uštekava u struju. Pretpostavimo da izbaci iz theorem-prover modula tekst “Struja daje #Energija”, “Energija je #Motiv_br.234”. Meni bi to bilo donekle uvjerljivo. U čemu je onda problem? Problem je što smo postavljanjem pravog pitanja odradili najveći dio posla umjesto NELL. NELL si sama treba postaviti pravo pitanje prije nego što djeluje. To djelovanje u skladu s razlozima i reprezentiranje razloga.

          Mislim da primjeri split-brain pacijenata dobro pokazuju o čemu govorim. Poslušajte što sami govore zašto su nešto nacrtali lijevom rukom: http://www.youtube.com/watch?v=mJKloz2vwlc&t=16m2s.

          *Znam da postoje neka suprotna mišljenja inspirirana Wittgensteinom, ali ideju o razlozima kao uzrocima je najlakše shvatiti ako se ostavimo predrasude da kauzalna objašnjenja uvijek opisuju zakon između dva fenomena (uzroka i posljedice). Davidson dobro argumentira u Actions, Reasons and Causes (1963).

          @Aleksandar Joksić
          Da, i zamislite što će vam reći kada kažete da vam pronađe sve potencijalno opasne predmete u sobi? Nije lako.

        • Vidite da vodite zanimljivu filozofsku diskusiju, i to ne o etici🙂 So, there’s hope for philosophy yet (in all its forms)!
          Mislim da se računala/robote može isprogramirati da se “ponašaju”, i to će programiranje postajati zasigurno sve sofisticiranije i sofisticiranije. Tako će nas roboti početi sve više podsjećati na nas u mnogočemu (što će nam ponekad stvarati nelagodu). Nema problema da im se usadi baza znanja + preferencije + monitoriranje vlastitih stanja + metapreferencije, itd. No, čini mi se da je pravo pitanje hoće li roboti postati sposobni za kreativno djelovanje poput ljudi – od razumijevanja novih metafora do sposobnosti za tehničke pronalaske i znanstvena otkrića. Čini mi se da pri tim aktivnostima ljudi imaju sposobnost da povežu dvije (ili više) među bezbrojnim mnoštvom informacija, imajući u vidu relevantnost te kombinacije za rješenje problema kojim se bave (pri čemu to rješenje ne slijedi deduktivno iz danih informacija). Kako to rade? Ne znamo, ali možda na način koji sadašnji ustroj računala ne može modelirati. Naravno, računalo može generirati bezbroj “besmislenih” kombinacija od kojih će neka možda slučajno “pogoditi”, ali to opet nije ono kako ljudi rješavaju probleme (barem najčešće) – ljudi su sposobni za “one off” dohvaćanje ispravne solucije.
          Što reče Asimov, robotski mozak ima konačnu analizu, a ljudski nema. Who knows?

      • Dakle, prema Vama postoji razlika kada autor kaže da računalo traži broj u prenesenom značenju i kada to kaže u doslovnom značenju. Nije mi baš jasno u čemu se sastoji ta razlika. Čini mi se da hoćete reći kada je riječ o radnjama složenih materijalnih predmeta da govorimo o mentalističkim terminima u prenesenom značenju za razliku od radnji, ne znam, nematerijalnih predmeta?

        Razlika je u tome da li predmet stvarno posjeduje svijest. Svaka uporaba mentalističkih termina za opis djelovanja materijalnih predmeta određene složenosti je metaforička, a često i nesvjesna, jer takvom uporabom se možemo najbolje staviti u odnos prema određenom neživom predmetu. Nisam siguran, ali to je možda i evolucijski uvjetovano.

        • Marko said

          Pa dobro, čovjek posjeduje svijest pa ga svejedno tumačimo iz intencionalnog stava i kada nije svjestan toga što radi. Koliko mi se puta dogodilo da idem u kuhinju i zaboravim što radim tamo dok mi netko ne kaže da sam htio uzeti mlijeko. Sad, želim li uzeti mlijeko ili je to samo preneseno značenje? Mislim da je pitanje svijesti irelevantno za to pitanje. Vi izgleda mislite da postoji neka čvrsta u mozgu zapisana činjenica što ja zapravo hoću za razliku od nekog shorthand korištenja intencionalnog stava kod nižih živih bića, računala itd. Jasno, postoji razlika u tome što svjesne osobe koriste eksplicitno intencionalni stav prema sebi, ali po čemu je uvijek čovjek autoritet nad procjenom vlastitih mentalnih stanja je po meni misterij.

        • Uzimali vi mlijeko ili ne, u vašoj se glavi uvijek odvijaju misaoni procesi, nešto vrlo očito jer imate mozak i živčani sustav koji generiraju takav fenomen; ovdje nema prenesenog značenja jer niste neživ predmet.

        • Marko said

          Naravno, no mene zanima postoji li “fact of the matter” želim li ja uzeti mlijeko? Koje dokaze za to ima onaj koji me podsjetio (ili se možda prevario). Je li to zapisano u mozgu? Kažete da je svijest ključna, ali onda odustajete od toga i kažete da je ključna razlika između živih i neživih bića. Sumnjam da vjerujete da sva živa bića svjesna.

  2. Marko Kučan said

    Prije nego što se uhvatim mesa vašeg teksta, kolega, htio bih komentirati ono što ja mislim da je jedan od većih problema u odlomku kojeg ste naveli:

    A čovjek, ako mu damo isti zadatak – neće niti tražiti broj, jer mu je jasno da je to besmislen zadatak. Računalo, dakako, nije programirano da shvati besmislenost zadatka, i to je osnovna razlika između rada mozga i rada kompjutera.

    Čovjek razumije da pitanje implicira tezu koja je u kontradikciji s njegovim pozadinskim znanjem (“Ramzes II ima telefonski broj”), što isključuje mogućnost smislenog odgovora. Kompjutoru (s velikim “K”) nedostaje sposobnost baratanja s takvim informacijama, pa “pretpostavlja” smislenost pitanja (mogućnost odgovora). Nadalje, nije mi jasno na što autor misli kad kaže “kompjutor nije programiran da shvati besmislenost tog zadatka” jer, koliko ja poznajem to područje, teorijska mogućnost takvog programiranja leži na nesigurnim temeljima (vidi Bokulićev tekst o kritici komputacijske teorije), a autor nekako dvosmisleno označava problem kao da se radi o nedostatku nekog postojećeg programa.

    • Aleksandar Joksić said

      Čovjek razumije da pitanje implicira tezu koja je u kontradikciji s njegovim pozadinskim znanjem (“Ramzes II ima telefonski broj”), što isključuje mogućnost smislenog odgovora. Kompjutoru (s velikim “K”) nedostaje sposobnost baratanja s takvim informacijama, pa “pretpostavlja” smislenost pitanja (mogućnost odgovora).

      Marko, hvala na komentaru. No što je pozadinsko znanje? Velika količina informacija koja se akumulira tijekom vremena, a stjecanju upravo toga NELL teži. Uzmimo primjer iz članka:

      For example, when the computer system reads the phrase “Pikes Peak,” it studies the structure — two words, each beginning with a capital letter, and the last word is Peak. That structure alone might make it probable that Pikes Peak is a mountain. But NELL also reads in several ways. It will mine for text phrases that surround Pikes Peak and similar noun phrases repeatedly. For example, “I climbed XXX.” (…) For example, the text-phrase structure “I climbed XXX” very often occurs with a mountain. But when NELL reads, “I climbed stairs,” it has previously learned with great certainty that “stairs” belongs to the category “building part.” “It self-corrects when it has more information, as it learns more,” Dr. Mitchell explained.

      Nije li dakle ovo samoispravljanje slučaj utjecanja pozadinskog znanja na reinterpretaciju informacija koje su netom stečene?

      • Marko Kučan said

        Možemo pozadinsko znanje shvatiti općenito, kao skup nekakvih opće i manje poznatih propozicija (htio sam pripremiti tekst upravo o toj temi, no uskočilo je nešto drugo).
        Mislim da pozadnisko znanje uključuje neke mehanizme koji se ne mogu objasniti isključivo pomoću samih stjecanih propozicija, i mislim da oba primjera (Ramzesov i Pikes Peak) to dobro objašnjavaju. Osim što obuhvaća jezične dvosmislenosti oko koje se često vrtimo kod ovakvih tema, obuhvaća i ono što leži na tim dvosmislenostima, poput humora, metafore, alegorije i sl. Sve bih to svrstao u pozadinsko znanje.

        For example, when the computer system reads the phrase “Pikes Peak,” it studies the structure — two words, each beginning with a capital letter, and the last word is Peak. That structure alone might make it probable that Pikes Peak is a mountain.

        Čini mi se da je posljednja rečenica non-sequitur.

        For example, the text-phrase structure “I climbed XXX” very often occurs with a mountain. But when NELL reads, “I climbed stairs,” it has previously learned with great certainty that “stairs” belongs to the category “building part.”

        Mislim da ovo otkriva jedan od problema na koji smo ciljali tekstovima o Searleu, naime o problematici teze da je mozak vrsta digitalnog računala. Ipravite me ako griješim, no autor implicira da postoji problem u tome što su stepenice “building part”, a radi se o rečeničnoj strukturi “i climbed XXX”. Računalo još uvijek, prema mojem sudu, operira na razini sintaktičkog prepoznavanja (pitam se kako bi prošlo kad bismo mu dali tekst iz Postmodernism Generatora).

      • Marko Kučan said

        Nije li dakle ovo samoispravljanje slučaj utjecanja pozadinskog znanja na reinterpretaciju informacija koje su netom stečene?

        Vidim zašto bi rekli da jest slučaj, no čini mi se da je samo došlo do ispravljanja sintaktičke pretpostavke (“building part” ne može biti rješenje “i climbed XXX”) koje ja pogrešna, i do koje se jedino može doći na način na koji ste vi opisali.

        When Dr. Mitchell scanned the “baked goods” category recently, he noticed a clear pattern. NELL was at first quite accurate, easily identifying all kinds of pies, breads, cakes and cookies as baked goods. But things went awry after NELL’s noun-phrase classifier decided “Internet cookies” was a baked good. (Its database related to baked goods or the Internet apparently lacked the knowledge to correct the mistake.)

        NELL had read the sentence “I deleted my Internet cookies.” So when it read “I deleted my files,” it decided “files” was probably a baked good, too. “It started this whole avalanche of mistakes,” Dr. Mitchell said. He corrected the Internet cookies error and restarted NELL’s bakery education.

        Mislim da ovo jasno pokazuje u čemu je problem sa ireducibilnošću semantike. No moram priznati da se NELL čini kao prilično impresivan stroj.

Odgovori

Popunite niže tražene podatke ili kliknite na neku od ikona za prijavu:

WordPress.com Logo

Ovaj komentar pišete koristeći vaš WordPress.com račun. Odjava / Izmijeni )

Twitter picture

Ovaj komentar pišete koristeći vaš Twitter račun. Odjava / Izmijeni )

Facebook slika

Ovaj komentar pišete koristeći vaš Facebook račun. Odjava / Izmijeni )

Google+ photo

Ovaj komentar pišete koristeći vaš Google+ račun. Odjava / Izmijeni )

Spajanje na %s

 
%d bloggers like this: