Así como la Inteligencia Artificial (IA) presenta el potencial de beneficiar a todas las personas, también presenta crecientes riesgos debido a nuestra mayor adopción y dependencia, de manera consciente e inconsciente, de sistemas impulsados por IA.
En una reciente publicación de la multinacional tecnológica EPAM, los expertos de la compañía determinaron que para alcanzar el potencial y minimizar y mitigar los riesgos del desarrollo e implementación de la IA, hay que guiarse por una serie de principios responsables.
La IA ofrece un vasto potencial para el desarrollo tecnológico en Colombia, pero también plantea desafíos significativos.
Con el objetivo de guiar el desarrollo responsable de sistemas de IA en el mercado, estos serían los siete principios fundamentales que marcarán la pauta para un futuro tecnológico ético y equitativo:
1. Diseño centrado en el humano: el bienestar humano en el diseño de sistemas de IA debe ser prioridad, asegurándose de que las necesidades y valores de las personas estén en el centro de cada solución. La evaluación constante garantizará la durabilidad de este principio en todo el ciclo de vida del producto.
2. Conciencia: Cada profesional involucrado en tecnologías de IA debe comprender plenamente el contexto y el impacto de sus acciones. La conciencia sobre los detalles del sistema, el problema que aborda y las consecuencias de las recomendaciones de IA es clave para un desarrollo ético.
3. Comprensión de datos, privacidad y seguridad: es fundamental que todas las personas que trabajan en tecnologías de inteligencia artificial tengan un profundo conocimiento de los datos con los que están trabajando, incluida su genealogía y procedencia, y la forma en que se utilizan. Las elecciones de diseño e implementación del sistema deben alinearse con las prácticas regulatorias y legales pertinentes. Se debe adoptar un enfoque proactivo hacia la protección de datos para evaluar constantemente posibles vulnerabilidades, riesgos y sesgos relacionados tanto con la operación del sistema, como con la minimización de brechas de datos o el acceso no autorizado a información sensible. Respetar la privacidad de los individuos y los derechos de protección de datos debe ser un principio rector de las actividades de diseño y desarrollo del sistema.
4. Equidad y no discriminación: los sistemas de IA deben diseñarse y desplegarse para evitar la discriminación y el sesgo, promoviendo la equidad y la igualdad. En EPAM, por ejemplo, se integran perspectivas diversas para asegurar que los sistemas sean justos y no perpetúen desigualdades existentes.
5. Responsabilidad social y ambiental: es crucial considerar el impacto social y ambiental de los sistemas de inteligencia artificial, esforzarse por minimizar cualquier efecto negativo y considerar el beneficio que el sistema proporciona en proporción con los costos y riesgos de su operación. Una opción es que un equipo independiente evalúe estos impactos.
6. Repetibilidad y pruebas: los sistemas de inteligencia artificial deben ser diseñados, probados e implementados de manera que garantice que su rendimiento y comportamiento puedan ser replicados y verificados. Esto incluye evaluar y comprender la variabilidad en el comportamiento inherente a algunos sistemas y el rendimiento real de los sistemas algorítmicos, considerando la variabilidad humana. Se debe implementar un estándar de pruebas antes de la producción que incluya pruebas para todos los principios aquí delineados. Las pruebas también deben llevarse a cabo durante el desarrollo, y se debe establecer un plan para el monitoreo y evaluación continuos. El diseño y la implementación deben mejorarse con el tiempo para maximizar el impacto positivo en los usuarios y monitorear constantemente los efectos negativos o cambios en el rendimiento esperado y observado.
7. Responsabilidad: cada persona que trabaje en tecnologías de inteligencia artificial debe reconocer una responsabilidad compartida por el efecto de sus sistemas en individuos y en la sociedad. Se debe designar una persona o un grupo de personas responsables de cada componente del sistema para el desarrollo y la comunicación de riesgos y decisiones basadas en intenciones. El equipo de desarrollo debe mantener estándares de auditoría y una cadena de responsabilidad. Es crucial diseñar y desarrollar un plan de monitoreo y mitigación para cualquier daño originado por la tecnología de inteligencia artificial.
El factor humano es indispensable para una IA exitosa
En el compromiso con el mercado local, la inteligencia artificial responsable va más allá de cumplir con regulaciones; nos pone a todos nosotros en el corazón del proceso de diseño del sistema. Aquí, los objetivos, resultados, comportamientos y rendimiento están intrínsecamente vinculados al bienestar humano.
Este enfoque reflexivo, intencional y sistemático significa que cada decisión de diseño tiene como prioridad su beneficio y su seguridad. En este contexto, la inteligencia artificial deja de ser oportunista para convertirse en una herramienta dedicada a mejorar su calidad de vida e impulsar el progreso de manera ética y equitativa.
