Bard AI etiquetado como un 'mentiroso patológico' por los propios empleados de Google

Los empleados de Google dispararon recientemente contra el chatbot de IA de la empresa a través de mensajes internos, calificando a Bard de "mentiroso patológico" y suplicando a la empresa que no lo lanzara.

un informe de Bloomberg ha descubierto discusiones de 18 trabajadores actuales y anteriores de Google, así como capturas de pantalla de mensajes internos. Entre ellos se incluye un empleado que afirma que Bard daría regularmente a los usuarios consejos peligrosos. Otro trabajador dijo que Bard es “peor que inútil: por favor, no lo lance”.

Si las quejas de los empleados no eran suficientes para justificar una preocupación genuina, un equipo de seguridad interno presentó una evaluación de riesgos para el proyecto, indicando que el sistema no estaba listo para uso general.

Google anuló la solicitud de una evaluación de riesgos y, en cambio, abrió el acceso temprano al chatbot experimental en marzo.

el informe de Bloomberg arroja luz sobre la decisión de la compañía de anular el sentido moral a favor de competir con proyectos rivales de IA como OpenAI.

La decisión parece especialmente mala para Google si nos remontamos a principios de 2021, cuando la empresa despidió a dos investigadores después de que escribieran un artículo de investigación que mostraba fallas en los mismos sistemas de lenguaje de IA que admiten chatbots como Bard.

Aunque algunos argumentarían que las pruebas públicas son necesarias para proyectos de esta naturaleza, no se puede negar que con múltiples casos en los que el gigante tecnológico tomó atajos en su chatbox de IA, un lanzamiento público fue una elección arriesgada.

Brian Gabriel, un portavoz de Google, dijo Bloomberg que la ética de la IA sigue siendo una prioridad para la empresa. Google lanzó recientemente una página de actualización de Bard que detalla los nuevos cambios y adiciones al servicio de chat.

Fuente: Bloomberg Vía: The Verge