Folje kryesore
- Sistemi i AI i quajtur DALL-E2 duket se ka krijuar sistemin e tij të komunikimit me shkrim.
- Disa ekspertë thonë se gjuha e dukshme mund të jetë thjesht e kotë.
- Është një shembull se sa e vështirë është të interpretosh rezultatet e sistemeve të avancuara të AI.
Duket sikur Inteligjenca Artificiale (AI) ka zhvilluar gjuhën e saj, por disa ekspertë janë skeptikë ndaj pretendimit.
Sistemi i AI tekst-për-imazh i OpenAI i quajtur DALL-E2 duket se ka krijuar sistemin e tij të komunikimit me shkrim. Është një shembull se sa e vështirë është të interpretosh rezultatet e sistemeve të avancuara të AI.
"Për shkak të madhësisë dhe thellësisë së modeleve të mëdha, është shumë e vështirë të shpjegohet sjellja e modelit," tha Teresa O'Neill, drejtoresha e arkitekturës së zgjidhjeve për të kuptuarit e gjuhës natyrore në iMerit, për Lifewire në një intervistë me email. "Kjo është një nga sfidat thelbësore, dhe në disa raste, çështje etike me modele gjithnjë e më të fuqishme. Nëse nuk mund të shpjegojmë pse ata sillen ashtu siç bëjnë, a mund ta parashikojmë sjelljen e tyre apo ta mbajmë atë në përputhje me normat dhe pritshmëritë tona?"
Biseda AI
Studenti i Shkencave Kompjuterike Giannis Daras vuri në dukje kohët e fundit se sistemi DALLE-2, i cili krijon imazhe bazuar në futjen e tekstit, do të kthente fjalë të pakuptimta si tekst në rrethana të caktuara.
"Një kufizim i njohur i DALLE-2 është se ai lufton me tekstin," shkroi ai në një punim të botuar në serverin preprint Arxiv. "Për shembull, porositë e tekstit të tilla si: "Një imazh i fjalës aeroplan" shpesh çojnë në imazhe të krijuara që përshkruajnë tekst të çuditshëm."
Por, shkroi Daras, mund të fshihet një metodë pas gërmadhave të dukshme. "Ne zbulojmë se ky tekst i prodhuar nuk është i rastësishëm, por zbulon një fjalor të fshehur që modeli duket se e ka zhvilluar brenda," vazhdoi ai. "Për shembull, kur ushqehet me këtë tekst kot, modeli prodhon shpesh aeroplanë."
Në tweet-in e tij, Daras vuri në dukje se kur DALLE-2 iu kërkua të nëntitronte një bisedë mes dy fermerëve, u tregoi se ata flisnin, por flluskat e të folurit ishin mbushur me fjalë të pakuptimta. Por Daras zbuloi se fjalët duket se kishin kuptimin e tyre për AI: fermerët po flisnin për perimet dhe zogjtë.
Nicola Davolio, CEO i kompanisë së teknologjisë Hupry, e cila punon me AI, shpjegoi për Lifewire në një intervistë me email se gjuha bazohet në simbole që sistemi DALL-E2 ka mësuar t'i shoqërojë me koncepte të caktuara. Për shembull, simboli për "qen" mund të lidhet me fotografinë e një qeni, ndërsa simboli për "mace" mund të lidhet me një fotografi të një mace. DALL-E2 ka krijuar gjuhën e tij sepse i mundëson të komunikojë në mënyrë më efektive me sistemet e tjera të AI.
Puzzlet si fjalori i fshehur në dukje i DALL-E2 janë argëtuese për t'u përballur me të, por ato gjithashtu nxjerrin në pah pyetjet më të rënda…
"Gjuha është e përbërë nga simbole që duken si hieroglifë egjiptianë dhe nuk duket se kanë ndonjë kuptim specifik," shtoi ai. "Simbolet janë ndoshta të pakuptimta për njerëzit, por ato kanë kuptim të përsosur për sistemin AI pasi ai është trajnuar në miliona imazhe."
Studiuesit besojnë se sistemi AI krijoi gjuhën për ta ndihmuar atë të kuptojë më mirë marrëdhëniet midis imazheve dhe fjalëve, tha Davolio.
"Ata nuk janë të sigurt pse sistemi i AI zhvilloi gjuhën e tij, por ata dyshojnë se mund të ketë të bëjë me mënyrën se si po mësonte të krijonte imazhe," shtoi Davolio. “Është e mundur që sistemi i AI ka zhvilluar gjuhën e tij për ta bërë më efikas komunikimin ndërmjet pjesëve të ndryshme të rrjetit."
Misteret e AI
DALL-E2 nuk është i vetmi sistem AI që ka zhvilluar gjuhën e tij të brendshme, vuri në dukje Davolio. Në vitin 2017, sistemi AutoML i Google krijoi një formë të re të arkitekturës nervore të quajtur 'rrjet fëmijësh' pasi u la për të vendosur se si të përfundonte më mirë një detyrë të caktuar. Ky rrjet fëmijësh ishte i paaftë të interpretohej nga krijuesit e tij njerëzorë.
"Këta shembuj janë vetëm disa raste në të cilat sistemet e AI kanë zhvilluar mënyra për të bërë gjëra që ne nuk mund t'i shpjegojmë," tha Davolio. "Është një fenomen në zhvillim që është magjepsës dhe alarmant në të njëjtën masë. Ndërsa sistemet e AI bëhen më komplekse dhe autonome, ne mund të gjendemi gjithnjë e më shumë në pozicionin që të mos kuptojmë se si funksionojnë."
O'Neill tha se ajo nuk mendon se DALL-E2 po krijon gjuhën e vet. Në vend të kësaj, ajo tha se arsyeja për shpikjen e dukshme gjuhësore është ndoshta pak më prozaike.
"Një shpjegim i besueshëm është një shans i rastësishëm - në një model kaq të madh, mund të zbatohet pak nga Ligji i Murfit: nëse një gjë e çuditshme mund të ndodhë, ndoshta do të ndodhë," shtoi O'Neill. Një tjetër mundësi e sugjeruar nga analisti kërkimor Benjamin Hilton në një temë në Twitter që diskuton gjetjet e Daras është se forma e frazës "apoploe vesrreaitais" imiton formën e një emri latin për një kafshë. Pra, sistemi ka krijuar një rend të ri të Aves, shtoi O'Neill.
"Gjëegjëzat si fjalori i fshehur në dukje i DALL-E2 janë argëtues për t'u përballur me të, por ato gjithashtu nxjerrin në pah pyetjet më të rënda rreth rrezikut, paragjykimeve dhe etikës në sjelljen shpesh të pakapshme të modeleve të mëdha," tha O'Neill..
