Għid lill-qtates tiegħek kif taħseb ġewwa - l-effett tal-kaxxa s-sewda

Il-fatt li algoritmi avvanzati tal-intelliġenza artifiċjali huma bħal kaxxa sewda (1) li tarmi riżultat mingħajr ma tiżvela kif waslet għaliha jdejjaq lil uħud u jdejjaq lil oħrajn.

Fl-2015, tim ta 'riċerka fl-Isptar Mount Sinai fi New York City intalab juża dan il-metodu biex janalizza database kbira ta' pazjenti lokali (2). Din il-ġabra enormi fiha oċean ta’ informazzjoni dwar il-pazjenti, minn riżultati ta’ testijiet, ordnijiet tat-tabib, eċċ.

Ix-xjentisti semmew il-programm analitiku żviluppat matul ix-xogħol. Ġie mħarreġ fuq data minn madwar 700 elf ruħ. bnedmin, u meta ttestjat f’reġistri ġodda wera li huwa estremament effettiv fit-tbassir tal-mard. Mingħajr l-għajnuna ta 'esperti umani, skopra mudelli fir-rekords tal-isptar li jindikaw liema pazjent kien fit-triq għal marda bħall-kanċer tal-fwied. Skont l-esperti, l-effiċjenza pronjostika u dijanjostika tas-sistema kienet ħafna ogħla minn dik ta 'kwalunkwe metodu magħruf ieħor.

2. Sistema ta 'intelliġenza artifiċjali medika bbażata fuq databases tal-pazjenti

Fl-istess ħin, ir-riċerkaturi ndunat li taħdem b'modi misterjużi. Irriżulta, pereżempju, li huwa ideali għal rikonoxximent ta 'disturbi mentalibħall-iskiżofrenja, li hija estremament diffiċli għat-tobba. Dan kien sorprendenti, speċjalment peress li ħadd ma kellu idea kif is-sistema AI kienet daqshekk tajba biex tara mard mentali bbażat biss fuq ir-rekords mediċi tal-pazjent. Iva, l-esperti kienu kuntenti ħafna bl-għajnuna ta 'dijanjostiku tal-magni effiċjenti bħal dan, iżda jkunu ħafna aktar sodisfatti jekk jifhmu kif l-AI waslet għall-konklużjonijiet tagħha.

Saffi ta 'newroni artifiċjali

Mill-bidu nett, jiġifieri mill-mument li l-kunċett ta 'intelliġenza artifiċjali sar magħruf, kien hemm żewġ punti ta' opinjoni dwar l-AI. L-ewwel ssuġġeriet li l-aktar ħaġa sensibbli li tagħmel tkun li jinbnew magni li jirraġunaw skont prinċipji magħrufa u loġika umana, u jagħmlu l-ħidma interna tagħhom trasparenti għal kulħadd. Oħrajn jemmnu li l-intelliġenza toħroġ aktar faċilment jekk il-magni jitgħallmu permezz tal-osservazzjoni u l-esperimentazzjoni ripetuta.

Dan tal-aħħar ifisser treġġigħ lura tal-ipprogrammar tipiku tal-kompjuter. Minflok il-programmatur jikteb kmandi biex issolvi problema, il-programm jiġġenera algoritmu proprju ibbażata fuq data tal-kampjun u r-riżultat mixtieq. It-tekniki tat-tagħlim bil-magni, li aktar tard evolvew fis-sistemi tal-AI l-aktar qawwija magħrufa llum, għadhom kemm marru fit-triq ta’ essenzjalment il-magna tipprogramma ruħha.

Dan l-approċċ baqa' fuq il-marġini tar-riċerka tal-IA fis-snin 60 u 70. Fil-bidu tad-deċennju preċedenti biss, wara xi bidliet u titjib innovattivi, Netwerks newrali "fond". beda juri titjib radikali fil-kapaċitajiet awtomatizzati ta 'perċezzjoni. 

It-tagħlim tal-magni fil-fond ta lill-kompjuters abbiltajiet straordinarji, bħall-abbiltà li jirrikonoxxu kliem mitkellem kważi preċiż daqs bniedem. Din hija ħila kumplessa wisq biex tipprogramma minn qabel. Il-magna għandha tkun kapaċi toħloq tagħha stess "programm" minn taħriġ fuq settijiet ta’ data enormi.

It-tagħlim fil-fond irrevoluzzjona wkoll ir-rikonoxximent tal-immaġni tal-kompjuter u tejjeb ħafna l-kwalità tat-traduzzjoni awtomatika. Illum tintuża biex tieħu kull xorta ta 'deċiżjonijiet ewlenin fil-mediċina, il-finanzi, il-manifattura u aktar.

Madankollu, ma 'dan kollu inti ma tistax sempliċement tħares ġewwa netwerk newrali fond biex tara kif taħdem "taħt il-barnuża". Il-proċessi tar-raġunament tan-netwerk huma inkorporati fl-imġieba ta 'eluf ta' newroni simulati, organizzati f'għexieren jew saħansitra mijiet ta 'saffi interkonnessi b'mod kumpless..

Kull wieħed min-newroni fl-ewwel saff jirċievi sinjal ta 'input, bħall-intensità ta' pixel f'immaġni, u mbagħad iwettaq kalkoli qabel ma joħroġ sinjal ta 'output. Huma trażmessi f'netwerk kumpless għan-newroni tas-saff li jmiss - u l-bqija, sakemm is-sinjal finali tal-ħruġ. Barra minn hekk, hemm proċess magħruf bħala aġġustament tal-komputazzjonijiet imwettqa minn newroni individwali sabiex in-netwerk tat-taħriġ jipproduċi l-output mixtieq.

F'eżempju li jsemmi ħafna drabi li jinvolvi rikonoxximent tal-immaġni tal-klieb, saffi aktar baxxi tal-AI janalizzaw karatteristiċi sempliċi bħall-kontorn jew il-kulur. Dawk itwal jittrattaw kwistjonijiet aktar kumplessi bħal pil jew għajnejn. Is-saff ta 'fuq biss iġibha kollha flimkien, u tidentifika s-sett sħiħ ta' informazzjoni bħala kelb.

L-istess approċċ jista’ jiġi applikat għal tipi oħra ta’ inputs li jħaddmu magna biex titgħallem hi stess: il-ħsejjes li jiffurmaw il-kliem fid-diskors, l-ittri u l-kliem li jiffurmaw sentenzi f’test miktub, jew steering wheel, pereżempju. movimenti meħtieġa biex tikkontrolla vettura.

Il-magna ma titlef xejn

Sar tentattiv biex jiġi spjegat x'jiġri eżatt f'sistemi bħal dawn. Fl-2015, ir-riċerkaturi ta 'Google immodifikaw algoritmu ta' rikonoxximent tal-immaġni bbażat fuq it-tagħlim fil-fond sabiex minflok ma raw l-oġġetti fir-ritratti, iġġenerathom jew immodifikahom. Billi jmexxu l-algoritmu lura, riedu jiskopru l-karatteristiċi li juża l-programm biex jagħraf, ngħidu aħna, għasfur jew bini.

Magħrufa pubblikament bit-titlu tagħhom, dawn l-esperimenti pproduċew immaġini tal-għaġeb ta’ (3) annimali grotteski, strambi, pajsaġġi, u karattri. Filwaqt li żvelaw uħud mis-sigrieti tal-perċezzjoni tal-magni, bħall-fatt li ċerti mudelli jiġu miġbura lura u ripetuti għal darb'oħra, urew ukoll kif it-tagħlim profond tal-magni huwa differenti mill-perċezzjoni umana - pereżempju, fis-sens li jespandi u duplikati artifacts li aħna ninjoraw fil-perċezzjoni tagħna mingħajr ħsieb. .

3. Immaġni maħluqa fil-proġett

Mill-mod, min-naħa l-oħra, dawn l-esperimenti żvelaw is-sigriet tal-mekkaniżmi konjittivi tagħna stess. Forsi huwa fil-perċezzjoni tagħna li hemm diversi komponenti inkomprensibbli li jġiegħluna nifhmu xi ħaġa immedjatament u ninjorawha, filwaqt li l-magna bil-paċenzja tirrepeti l-iterazzjonijiet tagħha fuq oġġetti "mhux importanti".

Twettqu testijiet u studji oħra f'tentattiv biex "tifhem" il-magna. Jason Yosinski ħoloq għodda li taġixxi bħal sonda mwaħħla fil-moħħ, timmira għal kwalunkwe newron artifiċjali u tfittex l-immaġni li tattivaha bl-aktar mod qawwi. Fl-aħħar esperiment, immaġini astratti dehru bħala riżultat tan-netwerk "spying" ħamrani, li għamel il-proċessi li jseħħu fis-sistema saħansitra aktar misterjuża.

Madankollu, għal ħafna xjentisti, riċerka bħal din hija nuqqas ta 'ftehim, għaliex, fl-opinjoni tagħhom, sabiex jifhmu s-sistema, jirrikonoxxu mudelli u mekkaniżmi ta' ordni ogħla biex jittieħdu deċiżjonijiet kumplessi, l-interazzjonijiet komputazzjonali kollha ġewwa netwerk newrali profond. Huwa labirint ġgant ta 'funzjonijiet u varjabbli matematiċi. Bħalissa huwa inkomprensibbli għalina.

Il-kompjuter mhux se jibda jaħdem? Għaliex?

Għaliex huwa importanti li wieħed jifhem il-mekkaniżmi tat-teħid tad-deċiżjonijiet ta 'sistemi avvanzati ta' intelliġenza artifiċjali? Mudelli matematiċi diġà qed jintużaw biex jiġi determinat liema priġunieri jistgħu jinħelsu bil-parole, liema jistgħu jingħataw kreditu, u liema jistgħu jiksbu impjieg. Kull min hu interessat jixtieq ikun jaf għaliex ittieħdet din id-deċiżjoni partikolari u mhux oħra, x’kienu r-raġunijiet u l-mekkaniżmu tagħha.

– ammetta f'April 2017 fil-MIT Technology Review. Tommy Jaakkola, professur fil-MIT li jaħdem fuq applikazzjonijiet ta 'tagħlim tal-magni. -.

Hemm ukoll pożizzjoni legali u politika li l-abbiltà li tiskrutinizza u tifhem il-mekkaniżmi tat-teħid tad-deċiżjonijiet tas-sistemi tal-IA hija dritt fundamentali tal-bniedem.

Mill-2018, l-UE ilha taħdem biex titlob lill-kumpaniji jipprovdu lill-klijenti tagħhom bi spjegazzjonijiet dwar deċiżjonijiet meħuda minn sistemi awtomatizzati. Jirriżulta li xi drabi dan mhux possibbli anke b'sistemi li jidhru relattivament sempliċi, bħal apps u websajts li jużaw xjenza profonda biex iservu reklami jew jirrakkomandaw kanzunetti.

Il-kompjuters li jmexxu dawn is-servizzi jipprogrammaw huma stess, u jagħmlu dan b'modi li ma nistgħux nifhmu... Anki l-inġiniera li joħolqu dawn l-applikazzjonijiet ma jistgħux jispjegaw bis-sħiħ kif taħdem.