La Zona de Emprendimiento Innovador (Ei) del Tec Guadalajara colabora con el proyecto fAIr LAC Jalisco para promover la ética en el desarrollo de la Inteligencia Artificial.
Con el fin de impulsar la integración de la Inteligencia Artificial (IA) de manera ética hacia nuevas oportunidades de la industria el Tec Guadalajara organiza las IA Talks.
A través de su Zona de Emprendimiento Innovador (Ei) el Tec realiza estas charlas periódicas en las que abordan los temas de IA desde distintas perspectivas.
En esta ocasión bajo el título “IA Gone Wild: The Ethics of High-Risk AI Applications”, la conferencia virtual profundizó sobre ética y riesgos de la IA.
Los invitados fueron Kathy Baxter y Yoav Schlesinger, representantes de la empresa de software estadounidense: Salesforce, quienes por segunda participan en las IA Talks del Tec.
Sobre los riesgos subrayaron la importancia de que las empresas integren principios de ética y confianza sobre la IA. Por lo que Yoav mencionó los pasos a seguir para lograrlo:
- Preguntarse si beneficiará a todos,
- Incluir a todos los segmentos de la sociedad con un análisis ético,
- Asegurarse de que la información sea representativa para toda la comunidad,
- Incluir expertos de múltiples academias para promover la transparencia y prevenir sesgos y
- Preguntarse: ¿se debe hacer tomando en cuenta valores ético y responsables?
Baxter mencionó los tipos de acciones no éticas en relación con el desarrollo de la IA: “Son acciones que depredan a los derechos humanos: basarse en sesgos o en discriminación.
“Hacer mal uso de información sensible o cualquier acción que comprometa la confianza y verdad de los usuarios”, expresó.
“Desarrollar IA bajo supuestos y sesgos inclinados en ciertos perfiles puede negar la protección y justicia, así como el derecho igualitario al empleo de las personas”.
Para Baxter, existen múltiples dimensiones que deben ser tomadas en cuenta para integrar una perspectiva ética en el uso y desarrollo de la IA, como:
- Autonomía,
- Desigualdad,
- Diversidad,
- Empleo,
- Justicia,
- Privacidad,
- Seguridad,
- Responsabilidad y
- Transparencia.
Señaló que actualmente existen 3 áreas principales en las que los riesgos de la IA son más latentes:
- Asuntos policiacos,
- Oportunidades económicas y sociales y
- Contenido generado.
Por ejemplo, detalló que se debe evitar que la tecnología diseñada para el reconocimiento facial propicie el robo de identidad o identificar erróneamente a personas.
También es usada para la vigilancia en ámbitos laborales o en las redes sociales. Por ello, Schlesinger señaló que es importante conocer y establecer límites en su uso:
“La vigilancia en el ámbito laboral puede verificar el desempeño y en las redes sociales puede dar información ventajosa a las empresas.
“No obstante, el uso del servicio y la información que se recabe no debe pasar por alto la integridad, privacidad y dignidad de las personas”.
Retos éticos de la Inteligencia Artificial
A su vez, la IA también puede ser utilizada para agilizar los procesos de contratación; puede emitir recomendación de empleabilidad a través del escaneo del CV 0 solicitudes laborales.
Lo mismo ocurre para acelerar el análisis en procesos de justicia penal. Sin embargo, destacaron, se deben evitar sesgos basados en valores no éticos y discriminatorios.
Por lo anterior, los ponentes señalaron que es importante que los humanos estén al pendiente del proceso de análisis de información y tomen las últimas decisiones.
“Desarrollar IA bajo supuestos y sesgos inclinados en ciertos perfiles puede negar la protección y justicia, así como el derecho igualitario al empleo de las personas”, dijo Baxter.
Otro riesgo de la IA se encuentra en la producción de contenido sintético. El servicio puede aprender y reproducir la voz, gestos del cuerpo y cara de cualquier persona.
Los ponentes concluyeron que la IA es benéfica para todos ya que se pueden construir soluciones a problemáticas, pero para lograr innovaciones éticas es indispensable limitar riesgos y sesgos.
Kathy Baxter es la arquitecta y directora de prácticas éticas de Inteligencia Artificial en dicha empresa, además de investigadora y capacitadora del personal.
Yoav Schlesinger es director de prácticas éticas en Salesforce; lidera el uso de buenas prácticas y la responsabilidad de la IA.
Estas charlas se difunden gracias a fAIr LAC Jalisco, proyecto enfocado en la IA y conformado por el Banco Interamericano de Desarrollo, Tec Guadalajara, Gobierno de Jalisco y C Minds.
A través de la cuenta de Facebook de la Zona de Emprendimiento Innovador (Ei) son transmitidas las IA Talks con diversos temas de la inteligencia artificial.
LEE TAMBIÉN:
Seleccionar notas relacionadas automáticamente
1
Categoría:
Notas Relacionadas
