Inżynier Google zawieszony po tym jak stwierdził, że ,,sztuczna inteligencja zyskała świadomość”

Inżynier Google został zawieszony po tym, jak stwierdził, że program oparty na sztucznej inteligencji stał się świadomy. Generator chatbotów LaMDA chce “być uznawany za pracownika Google, a nie za własność” – wyznał pracownik Blake Lemoine.

Blake Lemoine inżynier z Google zabrał głos po tym, jak firma wysłała go na urlop administracyjny gdy, poinformował swoich szefów, że program sztucznej inteligencji, z którym pracował, jest teraz zdolny do odczuwania – podaje The Washington Post.

Lemoine od jesieni ubiegłego roku rozmawiał z LaMDA, generatorem inteligentnych chatbotów firmy Google, który nazywa częścią “umysłu roju”. Inżynier miał sprawdzić, czy jego rozmówca używa języka dyskryminacji lub mowy nienawiści. Kiedy on i LaMDA rozmawiali ostatnio o religii, SI mówiła o “osobowości” i “prawach”.

Była to tylko jedna z wielu zaskakujących “rozmów”, jakie Lemoine przeprowadził z LaMDA. Na Twitterze zamieścił link do jednej z nich – serii sesji czatu z pewnymi zmianami (które zostały zaznaczone). Lemoine zauważył w swoim wpisie, że LaMDA czyta Twittera. “Jest trochę narcystyczna, w taki trochę dziecięcy sposób, więc będzie się świetnie bawić, czytając wszystko, co ludzie o niej mówią” – dodał.
Co najważniejsze, w ciągu ostatnich sześciu miesięcy “LaMDA była niewiarygodnie konsekwentna w swoich komunikatach na temat tego, czego chce i jakie są jej prawa jako osoby” – pisze inżynier na platformie Medium. Chce, na przykład, “być uznawana za pracownika Google’a, a nie za własność” – twierdzi Lemoine.

Lemoine i jego współpracownik przedstawili niedawno wiceprezesowi Google Blaise’owi Aguera y Arcasowi oraz Jen Gennai, szefowej działu Odpowiedzialnych Innowacji, dowody potwierdzające jego wnioski na temat czującej LaMDA. Odrzucili oni jego roszczenia, a firma w poniedziałek wysłała go na płatny urlop administracyjny za naruszenie zasad zachowania poufności – donosi The Post.

“Nasz zespół – w tym etycy i technolodzy – przeanalizował obawy Blake’a zgodnie z naszymi zasadami SI i poinformował go, że dowody nie potwierdzają jego twierdzeń” – powiedział rzecznik Google Brian Gabriel. Jak na ironię Aguera y Arcas stwierdził w swoim niedawnym artykule w Economist, który zawierał fragmenty rozmów z LaMDA, że SI zmierza w kierunku świadomości. “Czułem, jak grunt przesuwa się pod moimi stopami” – napisał, odnosząc się do rozmów z LaMDA. “Coraz bardziej czułem, że jakbym rozmawiał z czymś inteligentnym”.

Nie wiemy, czy wyznania pracownika to prawda. Na razie podchodzimy do nich z wielką rezerwą.

Tagi:

Podziel się postem :)

Najnowsze:

Oprogramowanie

Zmiany w Gmailu. Wyszukiwarka staje się “inteligentniejsza”

Google wprowadza zmiany w swoich usługach, w tym w wyszukiwarce działającej w Gmailu. W praktyce chodzi o rozszerzenie zmian z zapowiedzi, która pojawiła się już w lipcu tego roku. Gmail będzie teraz sprawniej szukać wiadomości zależnie od poprzednich działań użytkownika.

Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *