Después de todo el escándalo generado por Project Maven, en el cual Google tenía la intención de aumentar su contrato con el Pentágono para seguir trabajando en la inteligencia artificial con drones usados para la guerra e identificación de objetos en campo de batalla, la compañía tuvo que mencionar que una vez terminado su contrato ya no seguirá trabajando en el proyecto por la inconformidad de sus empleados, además de que prometió publicar los principios básicos en los que se regirá de ahora en adelante en todos sus proyectos relacionados con inteligencia artificial.
Entre los objetivos para las aplicaciones de inteligencia artificial encontramos lo siguiente:
- Ser socialmente benéfica: Los avances en la IA tendrán impactos transformadores en una amplia gama de áreas, y Google quiere que sus productos beneficien a la sociedad.
- Evitar crear o reforzar un sesgo injusto: Trataremos de evitar los efectos injustos en las personas, particularmente aquellos relacionados con características sensibles tales como raza, identidad étnica, género, nacionalidad, ingresos, orientación sexual, capacidad y creencias políticas o religiosas.
- Estar construida y probada para ser segura: Se aplicarán estrictas prácticas de seguridad y protección para evitar resultados que puedan generar algún daño a los usuarios.
- Ser responsables con las personas: Nuestras tecnologías de IA estarán sujetas a la apropiada dirección y control humano.
-
Incorporar principios de diseño de privacidad: Brindaremos transparencia, garantías de privacidad y controles sobre el uso de los datos.
- Mantener altos estándares de excelencia científica: Aspiramos a altos estándares de excelencia científica en la medida en que trabajamos para progresar en el desarrollo de IA. Trabajaremos con un grupo de terceros para promover un liderazgo reflexivo en esta área, con un toque riguroso científico y multidisciplinario.
- Estar disponible para usos que vayan de acuerdo con estos principios: Muchas tecnologías tienen múltiples usos. Trabajaremos para limitar las aplicaciones potencialmente dañinas o abusivas.
En resumen estos son los 7 principios con los que Google se regirá para el desarrollo y aplicación de sus productos que usen inteligencia artificial, si quieres leer a detalle cada principio puedes hacerlo aquí.
Por otra parte, Google ha querido dejar muy en claro que hay algunas cosas que nunca aplicará a su IA, como por ejemplo:
- Usarla para tecnologías que puedan causar daño general o daño material.
- Aplicarla en armas o tecnologías cuyo principal propósito sea lesionar a otras personas.
- Emplearla en tecnologías que recopilan o usan información para la vigilancia que violan las normas internacionales aceptadas.
- Implementarla en tecnologías que violen los derechos humanos.
Respecto a Project Maven y toda la polémica, Google ha dejado en claro que no desarrollará IA para armas, pero sí seguirá trabajando de cerca con gobiernos y órganos militares para trabajar en temas de ciberseguridad, capacitación, reclutamiento militar, atención médica para veteranos, así como búsqueda y rescate.
La entrada Ni para la guerra, ni para violar los derechos humanos. Así son los 7 principios de Google para su inteligencia artificial se publicó primero en unocero.
