Verificación de hechos Inteligencia artificial | RNZ

Comience a perfeccionar sus habilidades de pensamiento crítico a menos que quiera absorber información bastante aleatoria de la IA generativa.

Fotografía: FRANK HOERMANN/SVEN SIMON/DPA/AFP

¿Será la IA un gran paso hacia una vida más productiva o un gran paso hacia el dominio de la desinformación?

Este increíble desarrollo se está imponiendo al mundo de la tecnología, con muchos baches en el camino.

Gatos en la luna, ¿alguien? ¿Establecer el hábito diario de comer piedras? Cocinando con gasolina… puedes saltear cebollas y ajos para hacer un plato de pasta 'picante'. ¿O qué tal una receta de gas mostaza para limpiar tu lavadora?

Estas son algunas de las respuestas de Google en las que participó la IA generativa.

La desinformación es una gran preocupación, dice Amanda Williamson, líder de IA en Deloitte y profesora titular de la Universidad de Waikato.

«Existe preocupación en torno a los deepfakes y el fraude», afirma. “En términos de desinformación, además de que las personas pueden hacerse pasar muy bien por otras personas, la idea de desinformación en general es absolutamente preocupante en este momento.

«Porque la capacidad de crear contenido y enviarlo como conocimiento tan autorizado como un enlace normal de Google es realmente difícil de discernir».

Amanda Williamson, líder de IA en Deloitte y profesora titular en la Universidad de Waikato.
Fotografía: Proporcionó

Hay buenas noticias.

«No creo que sea para siempre. Ahora mismo tenemos que ser críticos y no podemos confiar en todo. Pero hay que tener en cuenta que la tecnología es tan mala como siempre lo será.

“Esta es la peor IA que jamás hayas usado. Esto sólo va a mejorar”, afirma. «En este momento, apenas podemos imaginar lo bueno que esto podría llegar a ser».

El gran peligro a estas alturas es no poder verificar de dónde viene la información.

“Si podemos usar IA que proporcione enlaces, y podemos hacer clic en el enlace y ver de dónde se obtuvo la información, entonces podremos usar nuestro propio sentido de pensamiento crítico para determinar si tiene sentido y si proviene de un equipo de buena reputación”, dice Williamson.

«Pero si utilizamos herramientas de inteligencia artificial que no hacen referencia de dónde obtuvieron la información y no tenemos un historial para confiar en ellas, entonces debemos tomar todo con cautela».

Williamson dice que empresas como Google están pasando por momentos difíciles porque necesitan cambiar todo su modelo para entregar información en Internet.

“Vieron una nueva forma de hacer esto, que es mediante el uso de IA generativa.

“Pero la IA generativa es increíblemente creativa, como sugerirían los gatos en la Luna, por lo que tienen que lidiar con el ritmo del tiempo y hacerlo de manera confiable.

“Y creo que a estas alturas no todo el mundo ha encontrado el equilibrio adecuado.

“Esto realmente demuestra que no podemos confiar ciegamente en nada de lo que la IA generativa está produciendo en este momento. Tenemos que activar nuestro cerebro y ser pensadores críticos”.

En The Detail hoy, Williamson habla sobre la diferencia entre la IA de «caja negra» y la de «caja blanca» o «transparente». Uno llega a una conclusión sin dejar rastro y al otro se le puede enseñar a explicar su pensamiento.

Ella dice que si la usas para trabajar, debes tratar a la IA como a un compañero de trabajo, y además a un compañero de trabajo muy joven.

“Hay que poder comprobar todo lo que hace. Nunca le damos a la IA la última palabra sobre las cosas”.

Mira cómo escuchar y seguir El detalle aquí.

También puedes mantenerte actualizado dándonos Me gusta en Facebook o siguiéndonos en Gorjeo.