amaneciendo.com.mx Tu ventana al mundo
LO ESENCIAL
Las empresas mexicanas que integran inteligencia artificial (IA) en sus procesos empresariales deben implementar mecanismos de supervisión y responsabilidad similares a los que rigen a sus empleados, según Fernando Arditti, manager para Latinoamérica de WSO2, una empresa especializada en identidad y accesos. Arditti señaló que, con la creciente adopción de agentes de IA, es imperativo establecer restricciones y permisos que regulen el acceso a sistemas e información de las organizaciones.
De acuerdo con un informe del Open Worldwide Application Security Project (OWASP), el 70% de las compañías no confía en su capacidad para proteger adecuadamente a sus agentes de IA. Arditti destacó que el nivel de acceso de un agente de IA debe determinar las restricciones y permisos que puede utilizar dentro de una organización, sugiriendo tratar a los agentes de IA de la misma manera que a un empleado, especialmente cuando toman decisiones o acciones que podrían ser propias de un humano.
CONTEXTO
Arditti explicó que la incorporación de tecnologías de IA debe considerar los riesgos desde la definición de las funciones que el agente podrá realizar. Las empresas deben tener en cuenta las herramientas disponibles para protegerse de estos riesgos, y aunque es la minoría que lo hace, el mercado está tomando más conciencia en este aspecto.
EN PERSPECTIVA
El Open Worldwide Application Security Project también sugiere que los agentes autónomos que operan en sistemas productivos y tienen acceso a herramientas requieren configuraciones, permisos y controles operativos como parte de la estrategia de
Mientras que en otros países se ha avanzado en la integración de IA, en México esta falta de integración puede ser ventajosa, ya que se tiene la oportunidad de aprender de los errores pasados. Por lo tanto, es crucial comenzar a enfocarse en la.
Etiquetas: Inteligencia Artificial, Seguridad, WSO2, OWASP, Mexico, Tecnología e IA
