Microsoft a concediat întreaga echipă de etică și socializare din cadrul organizației sale de inteligență artificială, ca parte a concedierilor recente care au afectat 10.000 de angajați din întreaga companie.
Microsoft continuă să mențină activ un „Birou de inteligență artificială responsabilă”, cu sarcina de a elabora reguli și principii care să ghideze inițiativele companiei în materie de inteligență artificială. În ciuda disponibilizărilor recente, compania afirmă că investiția sa globală în activitatea responsabilă este în creștere.
Mutarea lasă Microsoft fără o echipă dedicată pentru a se asigura că principiile AI sunt strâns legate de proiectarea produselor, în timp ce compania se află în prima linie în ceea ce privește punerea la dispoziție pe scară largă a instrumentelor AI, au declarat foști și actuali angajați. Această echipă de etică și socială a jucat un rol esențial în asigurarea faptului că principiile responsabile ale companiei în materie de inteligență artificială sunt cu adevărat reflectate în proiectarea produselor.
Aceștia au avut influență
Echipa de etică și socială a avut cea mai mare amploare în 2020, când avea aproximativ 30 de angajați, inclusiv ingineri, designeri și filosofi. În octombrie, echipa a fost redusă la aproximativ șapte persoane în cadrul unei restructurări.
Anterior, echipa proiectase un joc de rol numit „Judgment Call”, care îi ajuta pe designeri să își imagineze potențialele daune cauzate de inteligența artificială și să le discute în timpul dezvoltării produselor. Acest joc făcea parte dintr-un „Set de instrumente pentru inovare responsabilă” mai amplu, pe care echipa l-a făcut public. Și, mai recent, au lucrat la identificarea riscurilor pe care le implică adoptarea de către Microsoft a tehnologiei OpenAI în linia sa de produse.
În cadrul unei întâlniri care a urmat reorganizării, John Montgomery, vicepreședintele AI al companiei, le-a spus angajaților că au fost instruiți să acționeze rapid de către directorii companiei. „Kevin [Scott, directorul tehnic] și Satya [Nadella, directorul general] pun multă presiune asupra noastră pentru a pune cele mai recente și următoarele modele OpenAI în mâinile clienților foarte, foarte repede”, a spus vicepreședintele AI, potrivit unei înregistrări audio obținute de Platformer.
Nu este vorba de a ieși din afaceri, ci de a evolua”, a spus John Montgomery. „Într-o direcție care pune mai multă putere în echipele de produse individuale care construiesc serviciile și software-ul, ceea ce înseamnă că hub-ul central care a făcut o parte din muncă își predă capacitățile și responsabilitățile.
Cei mai mulți membri ai echipei au fost mutați în altă parte în cadrul Microsoft. Ulterior, membrii rămași ai echipei de etică și socializare au declarat că echipa mai mică a făcut dificilă realizarea planurilor lor ambițioase.
Pe 6 martie, angajații rămași au fost anunțați că echipa lor va fi desființată până la urmă.
Sincronizare dubioasă
Desființarea echipei de etică și societate a venit chiar în momentul în care angajații rămași ai grupului erau deja concentrați pe probabil cea mai mare provocare a lor de până acum: anticiparea a ceea ce se va întâmpla atunci când Microsoft va pune la dispoziția publicului global instrumentele alimentate de OpenAI. Anul trecut, echipa a redactat un memoriu în care a detaliat riscurile de marcă asociate cu Bing Image Creator, care utilizează sistemul DALL-E al OpenAI pentru a crea imagini pe baza unor instrucțiuni text. Instrumentul de creare a imaginilor a fost lansat în octombrie în câteva țări, fiind una dintre primele colaborări publice ale Microsoft cu OpenAI.
Deși tehnologia de creare a imaginilor pornind de la text a fost extrem de populară, cercetătorii Microsoft au prezis în mod corect că aceasta ar putea amenința mijloacele de trai ale artiștilor, deoarece oricine le-ar putea copia cu ușurință stilul.
În timpul testării Bing Image Creator, am constatat că imaginile generate erau aproape imposibil de distins de opera de artă originală atunci când se cerea pur și simplu numele artistului și mediul (pictură, grafică, fotografie sau sculptură). Riscul de afectare a mărcii atât pentru artiști, cât și pentru părțile interesate din punct de vedere financiar, precum și PR-ul negativ pentru Microsoft, care rezultă din plângerile artiștilor și din reacția negativă a publicului, este real și suficient de semnificativ pentru a necesita remediere
au scris cercetătorii.
Atunci când OpenAI și-a actualizat anul trecut termenii serviciului pentru a oferi utilizatorilor „proprietatea deplină a imaginilor create cu DALL – E”, mișcarea a fost contestată de echipa de Etică și Societate (existentă la acea vreme). A fost alcătuit un pachet de atenuare, dar niciunul dintre elementele sale nu a fost implementat, iar Bing Image Creator a fost lansat în țările de testare.
Urmărește-ne și pe Google News
