GOBIERNO DE CALIDAD/ Seguridad en la IA
Por Jorge Manrique, Rector del Colegio Jurista y director general de Gobierno de Calidad, consultoría de políticas públicas. ¿Cómo garantizamos que el uso de la IA refleje los estándares, políticas y valores de la organización? Con barreras de seguridad. Ellas garantizan que las herramientas de IA de una empresa, especialmente los grandes modelos de lenguaje (LLM), sean consistentes con la organización. Es importante destacar esta idea: si bien la IA genérica puede mejorar eficiencia, innovación y establecer una ventaja competitiva en la empresa, también puede presentar desafíos y riesgos. A medida que la adopción de la IA genética por parte de las empresas aumenta rápidamente, las barreras de protección son cruciales para el uso responsable de la IA. Las barreras de protección pueden identificar y eliminar el contenido inexacto generado por los LLM, así como supervisar y filtrar las indicaciones […]