Nekaj ​​o Alice in Bobu

Boti z ustvarjalnimi jezikovnimi veščinami so prevzeli domišljijo ljudi. Ponovno so obudili zaskrbljenost zaradi robokalipse

Alice in Bob, Alice in Bob Facebook, Facebook boti, roboti umetne inteligenceAlice in Bob, bota na Facebooku, ki sta si zaslovela zaradi nepričakovane pomanjkljivosti v logiki programiranja, sta del eksperimenta za izgradnjo pogajalskih strojev. C R Sasikumar

Internet je bil v ognju z dramatično obremenjenimi naslovnicami, ki razglašajo, da je moral Facebook umakniti lopovske bote z umetno inteligenco (AI), ki so razvili lasten jezik, v katerem so vodili nečloveško zasebne pogovore. Berejo se kot dražljivke za globokalipso Terminatorja, ki je najhujša nočna mora primata, ki uporablja orodje, ki ga mora nadomestiti njegova lastna stvaritev, stroj.

Realnost je manj dramatična, a bolj razburljiva. Boti so avtonomni agenti, ki so bili prvotno programirani za opravljanje gospodinjskih opravil na komunikacijskih kanalih ali za prestanek Turingovega testa. Lahko te prijavijo, te vržejo ven, če se slabo obnašaš, pustijo odprte klepetalnice, ko ni nikogar doma, zagotovijo informacije in se maskirajo v ljudi. V sistemu Internet Relay Chat je bil bot Eggdrop najljubši vseh časov.

Vnuki takšnih botov hišnikov so vgrajeni v sodobne iskalne agente in messengerje ter imajo zmogljivosti AI. Z uporabniki se pogovarjajo tako kot bi človek, odgovarjajo na rutinska vprašanja in nudijo nasvete. Če se zdi, da vaš telefon pozna vaše misli in izvleče prave stvari, ne da bi vas morali vprašati, je treba veliko zasluge pripisati botom, ki delajo v zakulisju. Tako kot ljudje se lahko tudi roboti učijo iz izkušenj in so v resničnih situacijah namenjeni večjim stvarem.



Alice in Bob, bota na Facebooku, ki sta si zaslovela zaradi nepričakovane pomanjkljivosti v logiki programiranja, sta del eksperimenta za izgradnjo pogajalskih strojev. Preprosto so ugotavljali, kako si deliti nabor predmetov, kot so žoge, da se nobena od strank ne bi počutila ogoljufano. Med barantanjem je Alice dajala sprva nerazumljive izjave, kot so: Žoge imajo nič do mene do mene do mene do mene do mene do mene ... In sledili so strašni naslovi.

Učenje poganjajo spodbude, kot vedo učitelji in starši. V tem primeru je bil opredeljen sistem nagrajevanja vaje — boljši delež in obojestransko zadovoljstvo, bistvo kupčkanja. Toda za bote ni bilo nobene spodbude, da bi še naprej komunicirali v angleščini, ki je zloglasno nelogičen jezik. Tako so zdrsnili v poenostavljen, učinkovitejši novogovor podoben argot, ki ni čisto angleški, a ne nerazumljiv, kot se oglašuje.

Alicina izjava, ki je bila napačno razumljena kot trditev o strojni neodvisnosti, je nakazovala le zgroženost, ker je kratko spremenjena (imaj nič), in vsaka zame je predstavljala predmet, ki ga je zahtevala. Opravljala je točno tisto delo, za katero je bila programirana: pogajala se je tako trdo kot prodajalka na istanbulskem Velikem bazarju. In če je ugotovila, da je kraljičina angleščina ovirala, ni bila sama. Številne rase nekdanjih kolonij so menile, da glavni jezik ovira komunikacijo v njihovih skupnostih.

Samo profesionalni človeški pogajalci morajo biti zaskrbljeni, če velikani Silicijeve doline vlagajo v programe pogajanj. Teroristi in pohodniki bi se morali bati tudi pokojnine, saj se lahko v situacijah s talci in mednarodnih pogodbah znajdejo pred nedoumljivim, nepremagljivim strojem, ki je veliko pametnejši od Deep Blue, superračunalnika IBM, ki je leta 1996 izzval šahovskega prvaka Garryja Kasparova.

Želja po razvoju zasebnih jezikov je zelo človeška lastnost. Preden so bile borze računalniško računalniške, so borzni posredniki na trgovalnem parketu pošiljali ponudbe z ročnimi signali, ki so bili drugim nerazumljivi. Stoletja so organe pregona zbegale tatove, umetne jezike obsojencev, ki svojim zapornikom blebetajo. Med angleško govorečimi kriminalci 20. stoletja je nesmiselna beseda arkitnay pomenila: Utihni, nekdo prisluškuje. William Henry Sleeman je v Indiji preučeval Ramaseeano, skakanje Thuggeeja, in leta 1836 izdal besednjak. Ena najmanj izvajanih, a najbolj zanimivih iger Toma Stopparda je Doggov Hamlet, v kateri šolarji igrajo Shakespeara v svojem jeziku Dogg. Bilo je nekako podobno transpozicijski šifri. Na primer, popoldnevi so v Doggu pomenili pozdrav.

Nič hudega, kar je pri Alice in Bobu zanimivo, da sta pri ustvarjanju jezika izdala zelo človeško lastnost, za katero nista bila izrecno programirana. Pred šestdesetimi leti so bili prvi roboti napisani, da bi raziskali natanko to vprašanje: Ali je mogoče stroje programirati tako, da se obnašajo kot ljudje? Bi lahko opravili Turingov test? Naveden v članku iz leta 1950 z naslovom Računalniški stroji in inteligenca je Turing v bistvu predlagal, da če se zdi, da so komunikacije stroja človeške, potem je treba stroj obravnavati kot človeka.

Prvi bot za obdelavo naravnega jezika, ki je izstopil iz laboratorija in pridobil množično priljubljenost, je bila Eliza, ki jo je leta 1964 ustvaril Joseph Weisenbaum na MIT. Napisal ga je, da bi pokazal, da se besedilne komunikacije človek-stroj ne morejo dvigniti na raven človeškega pogovora. Ravno nasprotno, Eliza je dvignila pričakovanja javnosti, da bo prestala Turingov test. Trideset let pozneje je še večje upe vdahnila Julia, ki jo je ustanovil Lycos Michael Mauldin ustvaril za potegovanje za Loebnerjevo nagrado, Sveto Turingovo testiranje. Toda čez nekaj časa so se Julijini klepeti vijugali v naključna razmišljanja o lastnostih psov in mačk (z njeno sodobno različico lahko klepetate na scratch.mit.edu/projects/2208608).

Zdaj so roboti z kreativnimi jezikovnimi veščinami prevzeli ljudsko domišljijo in znova obudili zaskrbljenost zaradi robotske kalipse. Toda razvoj v Googlovem laboratoriju AI je pravzaprav bolj razburljiv. Septembra 2016 je Google zaživel s svojim Neural Machine Translation System, ki uporablja globoko učenje jezika. Dva meseca pozneje so prestavili okvir: če bi se stroj naučil prevajati, recimo, med hindujščino in nemščino ter med hindijščino in angleščino, bi lahko prevajal med angleščino in nemščino brez premostitvenega jezika hindujščine? Lahko bi, kar kaže na to, da se je nevronska mreža naučila nekaj temeljnega o tem, kako um povezuje koncepte in slovnice za kovanje jezikov. Majhna, rumena, pijavkam podobna babelska riba, živi univerzalni prevajalec, ki si ga je v poznih sedemdesetih sanjal Douglas Adams, zdaj lebdi blizu vašega ušesa.

Seveda, ker ni dolgoročne napovedi za umetno inteligenco, je treba opozorilom ljudi, ki bi morali vedeti bolje, kot sta Elon Musk in Stephen Hawking, nameniti ustrezno pozornost. Kljub protestom zagovornikov svobode do inovacij, kot je Mark Zuckerberg, bi morala obstajati ureditev. In razviti bi se moral splošni konsenz, ki bi se dogovoril o mejah, ki jih ne smemo prestopiti, kot v primeru posegov v človeški genom. Vendar ni mogoče zanikati, da eksperimenti na Facebooku in Googlu napredujejo prvotni namen umetne inteligence, ki je bil modelirati in razumeti vidike človeškega uma. Grozne medijske zgodbe, ki jih pritegnejo, so minljive senzacije. Naslednji dan so primerne za zavijanje rib.