(Korpusin me të dhëna të mëdha tekstuale të GPT-1 kur e krahasojmë me GPT-2 është dyfishi i madhësisë së asaj që mund të bënte GPT-1…)
Transformatori gjenerues i paratrajnuar 1 (GPT-1) ishte i pari nga modelet e mëdha gjuhësore të Open IA pas shpikjes së arkitekturës së transformatorit në Gogle në 2017. Në qershor 2018, Open AI publikoi një punim të titulluar "Përmirësimi i të kuptuarit gjuhësor nga para-trajnimi gjenerues",në të cilin ata prezantuan atë modelin fillestar së bashku me konceptin e përgjithshëm të një transformatori gjenerues të trajnuar paraprakisht.
-Kur GPT-2, modeli gjuhësor i OpenAI, mbërriti në vitin 2019, askush në Norvegji nuk ngriti asnjë vetull edhe pse modeli kishte mangësi të mëdha dhe luftoi për të zgjidhur detyra të thjeshta aritmetike. Ata që e ndoqën, megjithatë, mund të shihnin konturet e diçkaje që mund të revolucionarizonte shoqërinë, drejt një hapi në rrugën drejt inteligjencës së përgjithshme artificiale…)
Çfarë di qeveria norvegjeze që nuk e dinë studiuesit kryesorë në botë të IA?
Në shtator 2024, modeli GPT-o1 u bë i disponueshëm në treg. Modeli tani ia del më mirë në testet e avancuara në fizikë, kimi dhe biologji sesa njerëzit me doktoraturë në këto lëndë. Pse nuk e pamë këtë të arritur kur të tjerët e panë? Dhe ku do të ndalen? Ekziston një gjë në veçanti që e ndan atë që shikon përpara nga ata që kapen në shtrat, nëse ata i kuptojnë ligjet e shkallëzimit.
Ligjet e shkallëzimit janë sekreti i ndyrë i zhvillimit të IA, por është madhësia që ka rëndësi këtu. Sa më shumë të dhëna dhe fuqi kompjuterike e bëjnë të mundur trajnimin e modeleve të IA për më gjatë. Dhe sa më shumë të trajnohen, aq më të mira kemi sisteme IA. Nëse shkallëzimi vazhdon, modelet do të bëhen shumë më të afta, por mënyrat janë më të vështira për t'u parashikuar.
Ata që e kuptuan më qartë fuqinë e ligjeve të shkallëzimit ishin Deep Mind dhe Open IA , kompani që sot udhëheqin zhvillimin e IA së fuqishme. Por edhe ata që zhvillojnë sistemet janë të befasuar nga aftësitë e reja në dukjen cilësore. "Derisa ta trajnojmë modelin, është si një lojë zbavitëse supozimi për ne [çfarë mund të bëjë]", tha Sam Altman i Open IA për Financial Times për trajnimin e vazhdueshëm të GPT-5. Prandaj, zhvillimi i sistemeve të reja të IA mund të përjetohet si të mësuarit për të njohur një inteligjencë aliene gjatë krijimit të tyre, pasi ato të lëshohen në treg.
Në Norvegji, ka pak njerëz që i kanë hapur sytë ndaj fuqisë së shkallëzimit. Situata është më e rëndë në qeveri. Trygve Slagsvold Vedum sigurisht që bëri një punë të madhe nga mundësitë në KI kur ai prezantoi Mesazhin Perspektivë në gusht. Por nëse lexoni mesazhin, kishte pak shenja që qeveria i kupton efektet transformuese që mund të ketë IA. Në atë që përshkruhet si një skenar optimist, ekonomistët në Ministrinë e Financave llogaritën se ndoshta mund të arrihet një rritje e efikasitetit për dhjetë për qind në sistemin e kujdesit shëndetësor deri në vitin 2060. Në krahasim, mijëra ekspertë të IA vlerësojnë se ka më shumë gjasa për jo, sepse ne do të kemi një IA që mund të kryejë të gjitha detyrat e imagjinueshme më mirë dhe më lirë se njerëzit në 2047! Anton Korinek, një ekonomist kryesor në këtë fushë, vlerëson se "automatizimi i plotë do të arrihet brenda 20 viteve", bazuar në analizat e ekspertëve kryesorë të AI si Geoffrey Hinton.
Kur qeveria prezantoi strategjinë e dixhitalizimit në fund të shtatorit, kishte gjithashtu pak shenja se kryeministri Jonas Gahr Støre dhe ministrja për dixhitalizimin, Karianne Tung, kuptonin ligjet e shkallëzimit dhe pasojat transformuese që mund të ketë IA.
Një problem tjetër është mungesa e çipave kompjuterikë. Zinxhiri i vlerës që bën çipi e të dhënave të përdorura në trajnimin e IA, varet nga shumë pak kompani. Nuk është e sigurt se ata do të jenë në gjendje të rrisin ofertën në përputhje me kërkesën.
Gjithashtu nuk është e sigurt se do të ketë fuqi të mjaftueshme në dispozicion për shkallëzim të mëtejshëm. Sa më të avancuara të bëhen modelet, aq më shumë fuqi dobtë kërkohet, sikurse në stërvitje ashtu edhe në përdorim. Shumë e kritikojnë IA, si një harxhim energjie dhe një rrezik për klimën dhe këta mund të pyesim veten, nëse “telashi”itjetër do të orkestrohet nga Greta Thunberg, në vend të mbështetësve të privatësisë.
Pavarësisht sfidave, ka pak arsye për të besuar se kemi parë modelet më të mira të IA! Miliarda dollarë po investohen në kompanitë kryesore të teknologjisë, kurse të dhënat e krijuara nga IA tashmë janë përdorur për të përmirësuar modelin e IA në Anthropic. Përfundimi i Epoch është se "deri në vitin 2030 ka shumë të ngjarë të jetë e mundur të trajnohen modele që tejkalojnë shkallën GPT-4 në të njëjtën masë që GPT-4 tejkalon GPT-2 në shkallë".
Çfarë mund të presim nga një zhvillim i tillë? Një pasojë e mundshme është një përqendrim edhe më i madh i fuqisë tek kompanitë e teknologjisë. Bëhet në mënyrë eksponenciale më e shtrenjtë për të bërë modele të reja. Vetëm disa kompani kanë mundësinë për ta bërë këtë.
Nëse fluksi i parave private ndalet, shtetet, me kuletat e tyre të pashtershme, mund t'i bashkohen garës për supremacinë e IA. Ndoshta është koha që shteti të kthehet si një zhvillues industrial?
Shtetet rreth nesh e kuptojnë se për të menaxhuar dhe për t'u përgatitur për zhvillimin, duhet të shqyrtohet se ku mund të shkojë zhvillimi. Franca, Mbretëria e Bashkuar, Shtetet e Bashkuara dhe një sërë vendesh të tjera kanë krijuar institute të IA të cilët, ndër të tjera, do të monitorojnë zhvillimet, do të hartojnë skenarë dhe do të dalin me propozime për politika të mira në përgjigje të skenarëve.
Këto nisma janë në kontrast të plotë me përpjekjet modeste të qeverisë për të rritur kompetencën e largpamësisë dhe duke krijuar "një forum dixhitalizimi ku zhvillimet në tendencat dhe shoqërinë në përgjithësi diskutohen çdo vit, duke përfshirë edhe palët në jetën e punës".
Askush nuk mund të parashikojë të ardhmen, por ajo që ne dimë është se kushdo që nuk i kupton ligjet e shkallëzimit do të jetë i pafuqishëm përballë zhvillimit të IA!/ Përktheu H. Rafuna.
