Google despide al ingeniero que afirma que su IA es consciente

SAN FRANCISCO — Google despidió a uno de sus ingenieros, Blake Lemoine, el viernes, más de un mes después de que planteó preocupaciones éticas sobre cómo la compañía estaba probando un chatbot de inteligencia artificial que creía que había alcanzado la conciencia.

Chris Pappas, un vocero de Google, dijo que el Sr. Lemoyne, un ingeniero de software sénior en su organización de inteligencia artificial responsable, «optó por violar persistentemente políticas claras de empleo y seguridad de datos que incluyen la necesidad de proteger la información del producto».

La empresa, que niega que su modelo de lenguaje de chatbot sea sensible, puso a Lemoine en licencia paga en junio. Lemoine confirmó su renuncia en un mensaje de texto el viernes y dijo que se reuniría con abogados para revisar sus opciones. El tiro fue primero informes Boletín de grandes tecnologías.

El Sr. Lemoine causó un gran revuelo el mes pasado cuando dicho The Washington Post que pensó que el modelo de lenguaje para aplicaciones de diálogo de Google, o LaMDA, era razonable, desatando temores de que la IA se está acercando a una película de ciencia ficción distópica y un acalorado debate sobre si un programa de computadora realmente puede tener un alma. Su suspensión también dio lugar a teorías de conspiración sobre si fue parte de un encubrimiento por parte de Google.

Era solo otro para Google disputas domesticas sobre la ética y el papel de su inteligencia artificial, un área de la tecnología en la que la compañía ha apostado su futuro.

La afirmación del Sr. Lemoine de que LaMDA es sensible ha sido criticada por la compañía y muchos otros expertos en IA, quienes dicen que este tipo de chatbot, software que simula una conversación de texto con otro ser humano, a menudo se usa para el servicio al cliente, no está lo suficientemente desarrollado. ser consciente

«Si un empleado comparte inquietudes sobre nuestro desempeño, como lo hizo Blake, las revisamos exhaustivamente», dijo Pappas. «Encontramos las afirmaciones de Blake de que LaMDA era completamente infundada y pasamos muchos meses tratando de aclarar esto con él».

Además de llevar sus preocupaciones a los medios, Lemoine dijo en junio que había entregado documentos a un senador estadounidense anónimo que afirmaba que proporcionaban evidencia de que Google y su tecnología participaban en discriminación religiosa.