Evoluția rapidă a inteligenței artificiale a ridicat întrebări etice care, până recent, păreau subiect de literatură științifico-fantastică. Dacă sistemele AI vor fi capabile să ‘gândească’ la fel ca oamenii, va putea omenirea să le trateze și să le îngrijească corespunzător?
Un grup de filozofi și informaticieni susțin că omenirea trebuie să ia în serios problema îngrijirii acestor sisteme AI. Într-un raport publicat recent și citat în revista Nature, acestea solicită ca firmele de tehnologie AI să nu se concentreze doar pe evaluarea sistemelor lor pentru a determina dacă acestea au dobândit conștiință de sine și capacitatea de a lua decizii în mod independent. De asemenea, aceste companii ar trebui să dezvolte politici pentru a trata AI-ul, dacă asemenea scenarii devin realitate.
Experții avertizează că nerecunoașterea unui sistem AI conștient ar putea duce la neglijarea, vătămarea și suferința acestuia. Deși unii consideră această idee ca fiind inutilă, având în vedere că AI-ul conștient pare un obiectiv foarte îndepărtat și dificil de atins, există voci care susțin contrariul.
Anil Seth de la Universitatea din Sussex a declarat: „Consecințele manifestării [conștiinței] sunt destul de profunde încât nu trebuie să ignorăm această posibilitate.” Ea subliniază că problema nu constă în potențialul AI-ului de a deveni ‘viu’, ci în capacitatea sa de a simți, similar cu creatura lui Frankenstein.
Jonathan Mason, matematician la Oxford, subliniază importanța stabilirii unor metode de evaluare a sistemelor AI pentru detectarea conștiinței. Jeff Sebo, filozof la Universitatea New York, evidențiază riscul ca resurse importante să fie alocate pentru bunăstarea AI-ului înainte de a determina conștiința acestuia.
În septembrie, Organismul consultativ la nivel înalt al Națiunilor Unite privind AI a publicat un raport, dar nu a menționat aspectul conștiinței AI, deși au existat solicitări pentru cercetarea acestui subiect. Incertitudinea privitoare la faptul dacă AI-ul poate dobândi conștiință nu ar trebui să împiedice dezvoltarea protocoalelor pentru evaluarea conștiinței. O listă de criterii, bazată pe teorii ale conștiinței din domeniul neuroștiinței, a fost propusă pentru a identifica sistemele AI ce ar putea atinge această stare.