Inżynier Google został zawieszony po tym, jak stwierdził, że program oparty na sztucznej inteligencji stał się świadomy. Generator chatbotów LaMDA chce „być uznawany za pracownika Google, a nie za własność” – wyznał pracownik Blake Lemoine.
Blake Lemoine inżynier z Google zabrał głos po tym, jak firma wysłała go na urlop administracyjny gdy, poinformował swoich szefów, że program sztucznej inteligencji, z którym pracował, jest teraz zdolny do odczuwania – podaje The Washington Post.
Lemoine od jesieni ubiegłego roku rozmawiał z LaMDA, generatorem inteligentnych chatbotów firmy Google, który nazywa częścią „umysłu roju”. Inżynier miał sprawdzić, czy jego rozmówca używa języka dyskryminacji lub mowy nienawiści. Kiedy on i LaMDA rozmawiali ostatnio o religii, SI mówiła o „osobowości” i „prawach”.
Była to tylko jedna z wielu zaskakujących „rozmów”, jakie Lemoine przeprowadził z LaMDA. Na Twitterze zamieścił link do jednej z nich – serii sesji czatu z pewnymi zmianami (które zostały zaznaczone). Lemoine zauważył w swoim wpisie, że LaMDA czyta Twittera. „Jest trochę narcystyczna, w taki trochę dziecięcy sposób, więc będzie się świetnie bawić, czytając wszystko, co ludzie o niej mówią” – dodał.
Co najważniejsze, w ciągu ostatnich sześciu miesięcy „LaMDA była niewiarygodnie konsekwentna w swoich komunikatach na temat tego, czego chce i jakie są jej prawa jako osoby” – pisze inżynier na platformie Medium. Chce, na przykład, „być uznawana za pracownika Google’a, a nie za własność” – twierdzi Lemoine.
Lemoine i jego współpracownik przedstawili niedawno wiceprezesowi Google Blaise’owi Aguera y Arcasowi oraz Jen Gennai, szefowej działu Odpowiedzialnych Innowacji, dowody potwierdzające jego wnioski na temat czującej LaMDA. Odrzucili oni jego roszczenia, a firma w poniedziałek wysłała go na płatny urlop administracyjny za naruszenie zasad zachowania poufności – donosi The Post.
„Nasz zespół – w tym etycy i technolodzy – przeanalizował obawy Blake’a zgodnie z naszymi zasadami SI i poinformował go, że dowody nie potwierdzają jego twierdzeń” – powiedział rzecznik Google Brian Gabriel. Jak na ironię Aguera y Arcas stwierdził w swoim niedawnym artykule w Economist, który zawierał fragmenty rozmów z LaMDA, że SI zmierza w kierunku świadomości. „Czułem, jak grunt przesuwa się pod moimi stopami” – napisał, odnosząc się do rozmów z LaMDA. „Coraz bardziej czułem, że jakbym rozmawiał z czymś inteligentnym”.
Nie wiemy, czy wyznania pracownika to prawda. Na razie podchodzimy do nich z wielką rezerwą.
