Segðu kettlingnum þínum hvað þér finnst inni - svörtu kassaáhrifin

Sú staðreynd að háþróuð gervigreind reiknirit eru eins og svartur kassi (1) sem hendir niðurstöðu án þess að upplýsa hvernig hún varð til veldur sumum áhyggjum og kemur öðrum í uppnám.

Árið 2015 var rannsóknarteymi á Mount Sinai sjúkrahúsinu í New York beðið um að nota þessa aðferð til að greina umfangsmikinn gagnagrunn staðbundinna sjúklinga (2). Þetta mikla safn inniheldur hafsjó af sjúklingaupplýsingum, niðurstöðum úr prófum, lyfseðlum og fleira.

Vísindamenn kölluðu greiningarforritið sem þróað var í vinnunni. Það þjálfaði á gögnum frá um 700 manns. manna, og þegar það er prófað í nýjum skrám hefur það reynst afar árangursríkt við að spá fyrir um sjúkdóma. Án aðstoðar manna sérfræðinga uppgötvaði hann mynstur í sjúkrahússkrám sem gefa til kynna hvaða sjúklingur er á leið til sjúkdóms, eins og lifrarkrabbameins. Samkvæmt sérfræðingum var spá- og greiningarvirkni kerfisins mun meiri en nokkurra annarra þekktra aðferða.

2. Læknisgervigreindarkerfi byggt á gagnagrunnum sjúklinga

Á sama tíma tóku rannsakendur eftir því að það virkar á dularfullan hátt. Það kom til dæmis í ljós að það er tilvalið fyrir viðurkenningu á geðröskunumeins og geðklofa, sem er mjög erfiður fyrir lækna. Þetta kom á óvart, sérstaklega þar sem enginn hafði hugmynd um hvernig gervigreindarkerfið gæti séð geðsjúkdóma svona vel miðað við sjúkraskrár sjúklingsins. Já, sérfræðingarnir voru mjög ánægðir með hjálp svo duglegra vélgreiningaraðila, en þeir væru mun ánægðari ef þeir skildu hvernig gervigreindin kemst að niðurstöðum sínum.

Lög af gervi taugafrumum

Frá upphafi, það er að segja frá því að hugtakið gervigreind varð þekkt, voru tvö sjónarmið um gervigreind. Sú fyrsta benti til þess að eðlilegast væri að smíða vélar sem rökstuddu í samræmi við þekktar meginreglur og mannlega rökfræði og gera innri virkni þeirra gagnsæ fyrir alla. Aðrir töldu að greind kæmi auðveldara fram ef vélar lærðu með athugun og endurteknum tilraunum.

Hið síðarnefnda þýðir að snúa við dæmigerðri tölvuforritun. Í stað þess að forritarinn skrifa skipanir til að leysa vandamál, býr forritið til eigin reiknirit byggt á sýnishornsgögnum og æskilegri niðurstöðu. Vélnámsaðferðir sem síðar þróuðust yfir í öflugustu gervigreindarkerfi sem vitað er um í dag hafa bara farið á braut, í raun, vélin sjálf forritar.

Þessi nálgun var áfram á jaðri gervigreindarkerfarannsókna á sjöunda og áttunda áratugnum. Aðeins í byrjun síðasta áratugar, eftir nokkrar brautryðjendabreytingar og endurbætur, „Djúp“ tauganet byrjaði að sýna fram á róttæka framför í getu sjálfvirkrar skynjunar. 

Djúpt vélanám hefur gefið tölvum óvenjulega hæfileika, eins og hæfileikann til að þekkja töluð orð næstum eins nákvæmlega og manneskju. Þetta er of flókin færni til að forrita fram í tímann. Vélin verður að geta búið til sitt eigið "forrit" með því að þjálfun á risastórum gagnasöfnum.

Djúpt nám hefur einnig breytt tölvumyndagreiningu og stórbætt gæði vélþýðinga. Í dag er það notað til að taka alls kyns lykilákvarðanir í læknisfræði, fjármálum, framleiðslu og fleira.

Hins vegar með öllu þessu þú getur ekki bara horft inn í djúpt tauganet til að sjá hvernig "inni" virkar. Netrökhugsunarferli eru felld inn í hegðun þúsunda herma taugafrumna, skipulögð í tugi eða jafnvel hundruð flókinna samtengdra laga..

Hver taugafruma í fyrsta laginu fær inntak, eins og styrkleika pixla í mynd, og framkvæmir síðan útreikninga áður en úttakið er gefið út. Þau eru send í flóknu neti til taugafrumna næsta lags - og svo framvegis, þar til endanlegt úttaksmerki. Að auki er til ferli sem kallast að stilla útreikninga sem framkvæmdir eru af einstökum taugafrumum þannig að þjálfunarnetið skili tilætluðum árangri.

Í dæmi sem oft er nefnt sem tengist hundamyndagreiningu greina lægri stig gervigreindar einföld einkenni eins og lögun eða lit. Þeir hærri takast á við flóknari mál eins og skinn eða augu. Aðeins efsta lagið sameinar þetta allt saman og auðkennir heildarupplýsingarnar sem hund.

Sömu nálgun er hægt að beita fyrir aðrar tegundir inntaks sem knýja vélina til að læra sjálfa sig: hljóð sem mynda orð í tali, bókstafi og orð sem mynda setningar í rituðum texta, eða stýri, til dæmis. hreyfingar sem nauðsynlegar eru til að aka ökutæki.

Bíllinn sleppir ekki neinu.

Reynt er að útskýra hvað nákvæmlega gerist í slíkum kerfum. Árið 2015 breyttu vísindamenn hjá Google myndgreiningaralgrími fyrir djúpt nám þannig að í stað þess að sjá hluti á myndum bjó það til eða breytti þeim. Með því að keyra reikniritið aftur á bak vildu þeir uppgötva eiginleikana sem forritið notar til að þekkja til dæmis fugl eða byggingu.

Þessar tilraunir, þekktar opinberlega sem titillinn, gáfu ótrúlegar myndir af (3) gróteskum, furðulegum dýrum, landslagi og persónum. Með því að afhjúpa sum leyndarmál vélaskynjunar, eins og þá staðreynd að tilteknum mynstrum er endurtekið aftur og endurtekið, sýndu þeir einnig hversu djúpt vélanám er frábrugðið mannlegri skynjun - til dæmis í þeim skilningi að það stækkar og afritar gripi sem við hunsum í skynjunarferli okkar án þess að hugsa. .

3. Mynd búin til í verkefninu

Tilviljun, á hinn bóginn hafa þessar tilraunir afhjúpað leyndardóminn um okkar eigin vitræna kerfi. Kannski er það í skynjun okkar að það séu ýmsir óskiljanlegir þættir sem fá okkur strax til að skilja og hunsa eitthvað, á meðan vélin endurtekur endurtekningar sínar þolinmóðar á „ómikilvægum“ hlutum.

Aðrar prófanir og rannsóknir voru gerðar til að reyna að „skilja“ vélina. Jason Yosinski hann bjó til tæki sem virkar eins og rannsakandi sem er fastur í heilanum, miðar á hvaða gervi taugafrumu sem er og leitar að myndinni sem virkjar hana sterkast. Í síðustu tilraun birtust óhlutbundnar myndir sem afleiðing af því að „kíkja“ á netið með rauðum höndum, sem gerði ferlið sem átti sér stað í kerfinu enn dularfyllra.

Hins vegar, fyrir marga vísindamenn, er slík rannsókn misskilningur, því að þeirra mati, til þess að skilja kerfið, til að viðurkenna mynstur og aðferðir æðri röð til að taka flóknar ákvarðanir, öll reiknivíxlverkun inni í djúpu tauganeti. Það er risastórt völundarhús af stærðfræðilegum föllum og breytum. Í augnablikinu er það okkur óskiljanlegt.

Tölvan fer ekki í gang? Hvers vegna?

Hvers vegna er mikilvægt að skilja ákvarðanatökuaðferðir háþróaðra gervigreindarkerfa? Nú þegar er verið að nota stærðfræðilíkön til að ákvarða hvaða fanga má sleppa á skilorði, hverjir fá lánað og hverjir fá vinnu. Áhugasamir vilja vita hvers vegna þessi ákvörðun var tekin en ekki önnur, hver eru forsendur hennar og fyrirkomulag.

viðurkenndi hann í apríl 2017 í MIT Technology Review. Tommy Yaakkola, MIT prófessor sem vinnur að forritum fyrir vélanám. -.

Það er jafnvel lagaleg og pólitísk afstaða að geta til að rýna og skilja ákvarðanatökukerfi gervigreindarkerfa sé grundvallarmannréttindi.

Frá árinu 2018 hefur ESB unnið að því að krefjast þess að fyrirtæki gefi viðskiptavinum sínum skýringar á ákvörðunum sem teknar eru með sjálfvirkum kerfum. Það kemur í ljós að þetta er stundum ekki mögulegt jafnvel með kerfum sem virðast tiltölulega einföld, eins og öpp og vefsíður sem nota djúp vísindi til að sýna auglýsingar eða mæla með lögum.

Tölvurnar sem keyra þessa þjónustu forrita sjálfar og þær gera það á þann hátt sem við getum ekki skilið... Jafnvel verkfræðingarnir sem búa til þessi forrit geta ekki útskýrt til hlítar hvernig það virkar.