Informe de Microsoft describe sus esfuerzos de seguridad de inteligencia artificial | Resumen de noticias
oh informepublicado el miércoles describe las revelaciones de la compañía sobre su programa de IA que van más allá de lo que ella y otras importantes compañías de IA acordaron con la Casa Blanca el verano pasado.
«Este informe nos permite compartir nuestras prácticas de maduración, reflexionar sobre lo que hemos aprendido, establecer nuestros objetivos, responsabilizarnos y ganarnos la confianza del público», dijo la compañía en un comunicado. declaración Miércoles.
«Estamos comprometidos a compartir nuestros aprendizajes temprano y con frecuencia y a entablar un diálogo sólido sobre prácticas responsables de IA», dijo la compañía.
Microsoft publicó el informe en medio de la preocupación constante por los chatbots que dependen de la IA generativa y que, en ocasiones, han demostrado proporcionar respuestas extrañas, alarmantes y poco confiables.
En febrero de 2023, la compañía dijo poco después de lanzar su chatbot Copilot que las conversaciones más largas que involucraran 15 preguntas o más podría liderar el chatbot “volverse repetitivo o que se le pida/provoque que dé respuestas que no necesariamente son útiles o no están en línea con el tono proyectado”.
La compañía dijo que confía en los comentarios reales de los usuarios para mejorar la funcionalidad.
En marzo, un ingeniero de Microsoft llevó sus preocupaciones a la Comisión Federal de Comercio (FTC) sobre las imágenes ofensivas y fraudulentas que podrían crearse utilizando la herramienta de imágenes de IA de la compañía, Copilot Designer, que funciona con un modelo OpenAI. CNBC informó.
En enero, la FTC comenzó a investigar Las relaciones financieras entre inversores y empresas líderes en inteligencia artificial, incluidas Microsoft, Alphabet (Google), Amazon, OpenAI y Anthropic PBC, involucran muchos miles de millones de dólares, dijo la FTC.
La Autoridad de Mercados y Competencia del Reino Unido también ha estado investigando las relaciones de Microsoft con Mistral AI, Inflection AI y otras nuevas empresas, así como con Amazon.
El Congreso ha celebrado una serie de audiencias sobre la posibilidad de poner barreras a la IA, dado su potencial de causar daño y caos.
