Tecnología

Los expertos dicen que Google debe tener claro los riesgos al promover la IA

Liz Reid, vicepresidenta de investigación de Google, supuestamente les dijo a los empleados que no deberían permitir que el riesgo les impidiera lanzar capacidades de inteligencia artificial.
Anadolu/Getty

  • Google ha aparecido en los titulares con algunas de sus descripciones generales de IA e imágenes generadas por IA inexactas.
  • Según se informa, el vicepresidente de investigación de Google dijo en una reunión que no debería dejar de correr riesgos debido a errores.
  • Los expertos evaluaron la estrategia de Google y los riesgos que podrían surgir.

Todas las grandes empresas de tecnología están compitiendo para ampliar sus capacidades de IA y lanzar nuevos productos, pero Google sigue apareciendo en los titulares sobre errores de IA que se vuelven virales.

Poco después de lanzar su función AI Overviews, que proporciona resúmenes generados por AI para algunas consultas de búsqueda en la parte superior de la página, Internet comenzó a hablar de que el motor de búsqueda recomendaba comer pizza con cola o consumir piedras.

A principios de este año, lanzó su herramienta de generación de imágenes en Gemini y causó controversia cuando el chatbot recreó de manera inexacta imágenes de personajes históricos. Google reconoció el problema y detuvo la función.

Parece que Google no pisará el freno en el corto plazo, incluso con fallas de alto perfil.

La vicepresidenta de investigación de Google, Liz Reid, abordó el reciente fiasco del consumo de pegamento para pizza y piedra en una reunión reciente y aprovechó la oportunidad para reafirmar la estrategia de inteligencia artificial de la compañía, según un audio filtrado. obtenido por CNBC.

«Es importante no retener recursos sólo porque pueda haber problemas ocasionales», dijo Reid en la reunión.

El vicepresidente dijo en la reunión que Google debería abordar los problemas cuando se descubran y «actuar con urgencia», pero eso no significa que «no deba correr riesgos», informó CNBC.

Inversor en IA y socio director del grupo de capital riesgo Gaingels lorenzo thione dijo a Business Insider que generalmente piensa que es la decisión correcta lanzar funciones experimentales. Pero dijo que los usuarios necesitan saber cuándo y cómo pueden confiar en los resultados. Thione dijo que las promociones de productos deben ser diferentes cuando la herramienta utilizada es el editor, curador y moderador.

Google señala que «la IA generativa es experimental» en las resúmenes de IA. También cuenta con una guía de seguridad para desarrolladores que Estados Las herramientas de IA generativa «a veces pueden conducir a resultados inesperados, como resultados inexactos, sesgados u ofensivos».

Google está lejos de ser la única empresa que descubre los riesgos de los productos de IA generativa. Tim Cook dijo que Apple Intelligence puede equivocarse en algunas cosas, aunque no espera que esto suceda con frecuencia. Microsoft también dijo el jueves que retrasaría el lanzamiento de una herramienta de inteligencia artificial que se suponía que estaría disponible cuando se lancen sus PC CoPilot, después de que surgieran preocupaciones sobre la privacidad.

Pero el director ejecutivo de la plataforma de inteligencia artificial Copyleaks, Alon Yamin, le dijo a BI que al implementar funciones a gran escala directamente en la Búsqueda de Google, la compañía está haciendo que estos errores sean particularmente visibles.

READ  Smart Connect de Lenovo y Motorola facilita la gestión de tareas en todos sus dispositivos

La alternativa es ser más gradual en la implementación de funciones y no ponerlas en primer plano si no están completamente listas, dijo.

Yamin dijo que tiene sentido que la compañía quiera lanzar productos más rápido debido a los rumores de que Google se está quedando atrás en la carrera de la IA. Pero si bien la IA generativa no es completamente infalible en este momento, es importante equilibrar el tiempo con la innovación y la precisión, afirmó Yamin.

Reid anteriormente el escribio en una publicación de blog que Google crea “protecciones de calidad y seguridad para estas experiencias” y las prueba exhaustivamente antes del lanzamiento. Pero Reid dijo en la reunión general que Google «no siempre encontrará todo», según el informe de CNBC.

Es importante tener en cuenta que estos errores no parecen aparecer con frecuencia. Un portavoz de Google dijo que la «gran mayoría» de los resultados son precisos y que la empresa encontró una infracción de la política en «menos de una de cada 7 millones de consultas únicas con resúmenes de IA».

Pero si bien la sugerencia de pegar queso a la pizza y comer piedras puede ser un error menor, Yamin dijo que pueden surgir riesgos más graves para la privacidad, la seguridad y los derechos de autor, y cuanto más rápido se trabaje, mayor será el riesgo.

¿Tienes algún consejo sobre Google? Comuníquese con el periodista a través de un correo electrónico no comercial a [email protected].

Federico Pareja

"Escritora típica. Practicante de comida malvada. Genio zombi. Introvertido. Lector. Erudito de Internet. Entusiasta del café incondicional".

Publicaciones relacionadas

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba