Mustafa Suleyman, șeful diviziei de inteligență artificială a Microsoft, a transmis că includerea ideii de conștiință în procesul de antrenare al sistemelor IA poate complica controlul asupra acestor tehnologii.
El afirmă că speculațiile despre conștiința artificială trebuie eliminate din materialele de instruire, pentru a evita influențarea modului în care modelele își descriu propria existență. Suleyman consideră că astfel de concepte pot face mai dificilă oprirea sau controlul sistemelor IA avansate.
Citește și: Senatorul Ionel Carp cere lămuriri privind cererea Ucrainei pentru Canalul Sulina
Discuții despre siguranța și controlul inteligenței artificiale
În contextul în care companiile din domeniu testează și monitorizează comportamentul sistemelor IA, Suleyman recunoaște preocupările companiei Anthropic privind siguranța. El apreciază intențiile bune ale cercetătorilor, dar consideră că afirmațiile despre conștiință apar ca urmare a modului de antrenare a modelelor.
Potrivit lui Suleyman, răspunsurile unui chatbot despre sentimente sau conștiință nu reprezintă, în mod automat, dovezi ale existenței acestor caracteristici. Modelele lingvistice generează răspunsuri în funcție de datele și instrucțiunile primite, iar repetarea unor concepte poate duce la apariția unor răspunsuri care explorează idei despre conștiință, fără ca sistemul să fie conștient în sensul uman.
El subliniază că controlul uman trebuie să rămână o prioritate, pentru a putea opri sistemele IA dacă acestea devin periculoase sau necontrolabile.
Conform Obiectivtulcea.ro