OpenAI testează o metodă pentru a preveni apocalipsa IA

OpenAI testează o metodă pentru a preveni apocalipsa IA

OpenAI, o companie care face chestii mișto cu inteligența artificială, a dat publicității primul raport al echipei sale de super-aliniere. Ce înseamnă asta? Păi, echipa asta se ocupă să găsească modalități de a ne asigura că dacă apare vreo IA care ne bate la cap, nu ne face praf. Raportul spune că o soluție ar fi să folosim o altă IA, mai prietenoasă, care să o țină în șah pe cea rea.

Acum, poate te întrebi dacă e posibil să existe o IA care să fie mai deșteaptă ca tine. Mulți experți zic că nu, că e prea greu să faci așa ceva. Dar echipa OpenAI nu-i ascultă pe ei și zice că da, că se poate. Ei spun că “inteligența artificială a evoluat foarte mult în ultimii ani” și că “a depășit toate previziunile și o să continue să o facă”. Ei cred că nu mai e mult până când o să avem modele de IA care să fie la fel de inteligente ca noi.

Problema e că nu se oprește aici și o să apară și modele supraumane – modele care să ne dea clasă la orice. Și asta înseamnă noi probleme tehnice de rezolvat”. Frica actuală e că o IA supraumană o să se supere pe noi, dintr-un motiv sau altul, și o să ne distrugă. Soluția pentru a preveni asta se numește superaliniere, adică să facem cumva ca IA supraumană să ne placă și să ne respecte valorile și principiile care ne apără și ne servesc umanitatea și, astfel, să nu ne atace.

În cadrul unui experiment, echipa a testat cum modelul GPT-2 al OpenAI, lansat acum cinci ani, ar putea fi folosit pentru a controla și monitoriza cel mai nou model al companiei, GPT-4. Experții companiei spun că “dacă va merge, asta ar putea arăta că tehnici asemănătoare pot fi folosite și pentru modele cu inteligență supraumană”, au scris cercetătorii în raport. Raportul mai spune că experții au ajuns la concluzia că ideea ar putea fi bună pentru a ține în frâu super-IA, dar mai trebuie lucrat la ea.

Ofertazilei

Urmărește-ne și pe Google News

R.M.

Numele meu este Raul Marian Robert și sunt un pasionat scriitor și jurnalist cu peste 10 ani de experiență în domeniul comunicării online. Am absolvit Facultatea de Litere și Jurnalism și am început să scriu pe diverse platforme online, acoperind o gamă largă de subiecte precum știri, tehnologie, sănătate, afaceri și multe altele. Călătorind în lumea virtuală în căutarea celor mai noi informații, am o abordare unică și intuitivă în analiza și prezentarea informațiilor, reușind să captez esența și importanța evenimentelor și inovațiilor actuale. Misiunea mea este de a informa, educa și inspira cititorii mei, oferindu-le informații relevante și actualizate. Sunt mereu în căutarea celor mai noi tendințe în toate domeniile pe care le acopăr și mă informez în mod constant pentru a aduce cele mai bune și mai utile informații pentru cititorii mei.

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *

Windows 11 își schimbă fața programului de instalare

Piața telefoanelor pliabile a înregistrat un record în trimestrul al treilea, dar Samsung a pierdut.

Windows 11 îți spune adio căștilor VR vechi prin Mixed Reality.

Lux și Performanță: Honor Magic6 Ultimate si RSR Edition te așteaptă!

Următorul telefon pliabil Moto RAZR 2024 apărut în imagini

Noile iPad Pro și iPad Air ar putea veni cu ecrane mate și lucioase

UNESCO avertizează asupra riscurilor pe care le prezintă implanturile cerebrale cu inteligență artificială

Fabricația Tesla, dezvăluită: Nu rata acest videoclip exclusiv!

Nothing Phone (2a), telefonul care nu te ruinează și nu te dezamăgește

Cum să-ți transformi mașina pe benzină într-un vehicul electric în doar o zi cu e-Revolt.

Xbox și Hisense: Parteneriatul care Revoluționează Gaming-ul pe Televizoare!

Acestea sunt acum TOP Cele mai puternice 10 telefoane Android.