Gervigreind fylgir ekki rökfræði vísindalegra framfara

Við höfum margoft skrifað í MT um vísindamenn og fagfólk sem kallar vélanámskerfi sem „svarta kassa“ (1) jafnvel fyrir þá sem byggja þau. Þetta gerir það erfitt að meta niðurstöður og endurnýta ný reiknirit.

Taugakerfi - tæknin sem gefur okkur greindar umbreytandi vélmenni og sniðuga textaframleiðendur sem geta jafnvel búið til ljóð - er enn óskiljanleg ráðgáta fyrir utanaðkomandi áhorfendur.

Þau eru að verða stærri og flóknari, meðhöndla risastór gagnasöfn og nota gríðarstór reiknifylki. Þetta gerir afritun og greining á líkönunum sem fengust kostnaðarsamar og stundum ómögulegar fyrir aðra rannsakendur, nema fyrir stórar miðstöðvar með mikla fjárveitingu.

Margir vísindamenn eru vel meðvitaðir um þetta vandamál. Þar á meðal er Joel Pino (2), formaður NeurIPS, aðalráðstefnunnar um endurgerðanleika. Sérfræðingarnir undir hennar forystu vilja búa til „gátlista fyrir endurgerðanleika“.

Hugmyndin, sagði Pino, er að hvetja vísindamenn til að bjóða öðrum upp á vegvísi svo þeir geti endurskapað og notað þá vinnu sem þegar hefur verið unnin. Þú getur undrast mælsku nýrra textaframleiðanda eða ofurmannlegs handlagni tölvuleikjavélmenni, en jafnvel bestu sérfræðingar hafa ekki hugmynd um hvernig þessi undur virka. Þess vegna er endurgerð gervigreindarlíkana mikilvæg, ekki aðeins til að bera kennsl á ný markmið og leiðbeiningar um rannsóknir, heldur einnig sem eingöngu hagnýt leiðarvísir til notkunar.

Aðrir eru að reyna að leysa þetta vandamál. Rannsakendur Google buðu upp á „módelkort“ til að lýsa í smáatriðum hvernig kerfin voru prófuð, þar á meðal niðurstöður sem benda á hugsanlegar villur. Vísindamenn við Allen Institute for Artificial Intelligence (AI2) hafa gefið út grein sem miðar að því að útvíkka Pinot endurgerðanleika gátlistann í önnur skref í tilraunaferlinu. „Sýndu verkin þín,“ hvetja þeir.

Stundum vantar grunnupplýsingar vegna þess að rannsóknarverkefnið er í eigu, sérstaklega rannsóknarstofa sem starfa hjá fyrirtækinu. Oftar er það þó merki um vanhæfni til að lýsa breyttum og sífellt flóknari rannsóknaraðferðum. Taugakerfi eru mjög flókið svæði. Til að ná sem bestum árangri þarf oft að fínstilla þúsundir „hnappa og hnappa“, sem sumir kalla „svartan galdur“. Val á ákjósanlegu líkani tengist oft miklum fjölda tilrauna. Galdrar verða mjög dýrir.

Til dæmis, þegar Facebook reyndi að endurtaka verk AlphaGo, kerfis þróað af DeepMind Alphabet, reyndist verkefnið mjög erfitt. Miklar reiknikröfur, milljónir tilrauna á þúsundum tækja á mörgum dögum, ásamt skorti á kóða, gerði kerfið „mjög erfitt, ef ekki ómögulegt, að endurskapa, prófa, bæta og framlengja,“ að sögn starfsmanna Facebook.

Vandamálið virðist vera sérhæft. Hins vegar, ef við hugsum lengra, grefur fyrirbærið vandamál með endurtakanleika niðurstaðna og virkni milli eins rannsóknarteymis og annars undan allri rökfræði virkni vísinda og rannsóknarferla sem við vitum. Að jafnaði er hægt að leggja niðurstöður fyrri rannsókna til grundvallar frekari rannsóknum sem örva þróun þekkingar, tækni og almennra framfara.