OpenAI testează o metodă pentru a preveni apocalipsa IA

OpenAI testează o metodă pentru a preveni apocalipsa IA

OpenAI, o companie care face chestii mișto cu inteligența artificială, a dat publicității primul raport al echipei sale de super-aliniere. Ce înseamnă asta? Păi, echipa asta se ocupă să găsească modalități de a ne asigura că dacă apare vreo IA care ne bate la cap, nu ne face praf. Raportul spune că o soluție ar fi să folosim o altă IA, mai prietenoasă, care să o țină în șah pe cea rea.

Acum, poate te întrebi dacă e posibil să existe o IA care să fie mai deșteaptă ca tine. Mulți experți zic că nu, că e prea greu să faci așa ceva. Dar echipa OpenAI nu-i ascultă pe ei și zice că da, că se poate. Ei spun că “inteligența artificială a evoluat foarte mult în ultimii ani” și că “a depășit toate previziunile și o să continue să o facă”. Ei cred că nu mai e mult până când o să avem modele de IA care să fie la fel de inteligente ca noi.

Problema e că nu se oprește aici și o să apară și modele supraumane – modele care să ne dea clasă la orice. Și asta înseamnă noi probleme tehnice de rezolvat”. Frica actuală e că o IA supraumană o să se supere pe noi, dintr-un motiv sau altul, și o să ne distrugă. Soluția pentru a preveni asta se numește superaliniere, adică să facem cumva ca IA supraumană să ne placă și să ne respecte valorile și principiile care ne apără și ne servesc umanitatea și, astfel, să nu ne atace.

În cadrul unui experiment, echipa a testat cum modelul GPT-2 al OpenAI, lansat acum cinci ani, ar putea fi folosit pentru a controla și monitoriza cel mai nou model al companiei, GPT-4. Experții companiei spun că “dacă va merge, asta ar putea arăta că tehnici asemănătoare pot fi folosite și pentru modele cu inteligență supraumană”, au scris cercetătorii în raport. Raportul mai spune că experții au ajuns la concluzia că ideea ar putea fi bună pentru a ține în frâu super-IA, dar mai trebuie lucrat la ea.

Ofertazilei

Urmărește-ne și pe Google News

R.M.

Numele meu este Raul Marian Robert și sunt un pasionat scriitor și jurnalist cu peste 10 ani de experiență în domeniul comunicării online. Am absolvit Facultatea de Litere și Jurnalism și am început să scriu pe diverse platforme online, acoperind o gamă largă de subiecte precum știri, tehnologie, sănătate, afaceri și multe altele. Călătorind în lumea virtuală în căutarea celor mai noi informații, am o abordare unică și intuitivă în analiza și prezentarea informațiilor, reușind să captez esența și importanța evenimentelor și inovațiilor actuale. Misiunea mea este de a informa, educa și inspira cititorii mei, oferindu-le informații relevante și actualizate. Sunt mereu în căutarea celor mai noi tendințe în toate domeniile pe care le acopăr și mă informez în mod constant pentru a aduce cele mai bune și mai utile informații pentru cititorii mei.

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *

Sfaturi pentru cumpărarea de televizoare – sistem de sunet: ce face ca un televizor să sune bine? La ce trebuie să ne uităm?

Xbox și Hisense: Parteneriatul care Revoluționează Gaming-ul pe Televizoare!

Samsung Galaxy A55 5G, scăpat pe net de un operator belgian. Ce știm despre el

A apărut un noua platforma de generator de texte și imagini AI în România

Cum te scapă Android 15 de notificările care te bombardează.

Samsung ar putea lansa un nou tip de smartphone revoluționar,

Samsung Galaxy A72 primește ultima actualizare majoră

Roku TV. Un jucător nou, puternic pe piața TV – CU MODELE IEFTIN!

Samsung Galaxy S21 primește Android 14 cu One UI 6.

Un concurent serios pentru ChatGPT, Bard și Dall-E: Samsung prezintă modelul de inteligență artificială „Gauss” care generează text, scrie cod și creează imagini

Netflix și Hățișul Tehnic: Când Streamingul Merge Pe Bucăți

LISTA DE DORINȚE XIAOMI SMART BAND 9: TOATE CARACTERISTICILE PE CARE AS VREA SĂ LE VĂD