Gestor26 T.18 Cuestionario sobre el Uso Responsable de la IA

¿Qué es el AI Act y cuál es su propósito principal?. Es una ley que regula el uso de la IA en la industria automotriz, buscando mejorar la eficiencia. Es una norma europea que fija reglas para el uso de la inteligencia artificial en empresas y administraciones públicas de la UE, con el objetivo de un uso seguro y respetuoso con los derechos. Es un reglamento de protección de datos específico para sistemas de IA que sustituye al RGPD. Es una directiva que fomenta el desarrollo de la IA en la investigación académica.

¿El AI Act sustituye al Reglamento General de Protección de Datos (RGPD)?. Sí, el AI Act lo reemplaza completamente. No, el AI Act se aplica además del RGPD y otras normas de seguridad y protección de datos. Solo lo sustituye para sistemas de IA de alto riesgo. El RGPD solo se aplica a la IA no europea.

Según el documento, ¿quién es responsable de desplegar y usar sistemas de IA en la UA?. El personal usuario individualmente. La Universidad como organización. El proveedor externo de la tecnología de IA. Un comité específico de expertos en IA sin vinculación con la UA.

¿Cómo se define un sistema de IA de forma sencilla en el documento?. Cualquier programa informático que automatiza tareas repetitivas. Una herramienta informática que, a partir de datos, genera resultados con cierto grado de autonomía y aprendizaje, sin solo aplicar reglas fijas. Un sistema que solo utiliza reglas lógicas predefinidas para procesar información. Software diseñado exclusivamente para la investigación científica.

¿Cuál de los siguientes es un ejemplo de sistema de IA en el trabajo administrativo?. Una calculadora básica en una hoja de cálculo. Un sistema de respaldo automático de archivos. Un asistente de redacción que propone borradores de correos. Un programa antivirus.

¿Qué tipo de operaciones quedan fuera del concepto de sistema de IA según el documento?. Sistemas de recomendación de contenido. Traducción automática de idiomas. Operaciones puramente mecánicas, como un sumatorio en una hoja de cálculo sin parte 'inteligente'. Chatbots de atención al cliente.

El AI Act distingue entre: Usuarios y desarrolladores de IA. Proveedores (quienes desarrollan/comercializan) y usuarios profesionales (quienes usan). IA de bajo riesgo y IA de alto riesgo. IA pública y IA privada.

En el contexto de la UA, ¿cuál es la responsabilidad del personal usuario respecto a las herramientas de IA?. Desarrollar nuevas herramientas de IA para la universidad. Utilizar las herramientas autorizadas, seguir las instrucciones internas y mantener un uso responsable y crítico. Ignorar las políticas internas y usar cualquier herramienta de IA disponible. Solo usar herramientas de IA gratuitas para ahorrar costes.

¿Qué tipo de riesgo organiza el AI Act en función de su impacto en los derechos de las personas?. Bajo, medio, alto y extremo. Mínimo, limitado, alto y inaceptable (prohibido). Personal, organizacional, social y global. Digital, físico, psicológico y económico.

¿Qué prácticas de IA están directamente prohibidas por el Reglamento según el documento?. Sistemas de recomendación de productos. Herramientas de traducción automática. Sistemas que manipulan encubiertamente el comportamiento o explotan vulnerabilidades. Asistentes virtuales para responder preguntas frecuentes.

¿Cuál de las siguientes es una señal de alarma de práctica de IA prohibida en la UA?. Un sistema que sugiere borradores de correos electrónicos. Una herramienta que resume documentos extensos. Propuestas de herramientas que 'midan' emociones de estudiantes en exámenes. Un chatbot para responder preguntas sobre horarios.

¿Qué se debe hacer ante una propuesta de herramienta de IA que parezca una señal de alarma?. Impulsarla y usarla inmediatamente para probarla. Ignorarla y seguir trabajando como siempre. No impulsarla ni usarla y remitirla a los servicios técnicos y jurídicos correspondientes. Buscar opiniones en foros online antes de decidir.

Los sistemas de IA de 'riesgo limitado' exigen principalmente: Prohibición total de su uso. Supervisión constante por parte del Delegado de Protección de Datos. Transparencia, informando a las personas que interactúan con IA o contenido generado por IA. Un informe de impacto de derechos fundamentales previo.

¿Qué implica la obligación de transparencia para el personal de la UA al usar IA?. Deben indicar el coste de la herramienta de IA utilizada. Deben informar claramente cuando un canal de atención usa un chatbot o asistente de IA. Deben ocultar el uso de IA en comunicaciones oficiales. Solo deben informar si el contenido es generado por IA y es impreciso.

¿Cuáles de los siguientes se consideran usos de 'alto riesgo' de IA según el documento?. Herramientas de escritura y resumen de textos. Sistemas que influyen en la admisión, evaluación o calificación de estudiantes. Chatbots para responder preguntas generales. Software de gestión de correo electrónico.

En casos de 'alto riesgo' de IA, ¿quién tiene la responsabilidad principal de la configuración y supervisión?. El personal usuario final. Los responsables técnicos, jurídicos y de protección de datos. Los desarrolladores externos de la IA. El departamento de marketing.

¿Qué conocimiento mínimo debe tener el personal usuario de IA?. Ser capaz de programar sistemas de IA. Saber reconocer qué es un sistema de IA y distinguirlo de herramientas mecánicas. Conocer la historia completa de la IA. Entender todos los algoritmos de aprendizaje automático.

¿Cuál es una tarea adecuada para el apoyo de IA según el documento?. Tomar decisiones finales sobre ascensos de personal. Realizar evaluaciones críticas de desempeño sin supervisión. Identificar tareas como borradores, resúmenes o propuestas de texto. Gestionar confidencialidad de datos sensibles sin formación.

¿Cuáles son riesgos frecuentes de la IA generativa mencionados en el texto?. Exceso de creatividad y originalidad. Errores factuales, datos inventados, desactualización y sesgos. Demasiada eficiencia en la producción de contenido. Costes de implementación muy bajos.

¿Qué se debe hacer al manejar datos personales o información interna/restringida con IA?. Usar cualquier herramienta de IA disponible para procesarlos. Asegurarse de tener nociones básicas de protección de datos y confidencialidad. Subir toda la información a servicios de IA en la nube sin restricciones. Compartir credenciales de acceso con el sistema de IA.

La regla práctica para el uso de la IA por el personal es: Utilizar la IA como sustituto del criterio profesional. Utilizar la IA como ayuda y no como sustituto del criterio profesional ni de la revisión humana. Dejar que la IA tome todas las decisiones importantes. Utilizar la IA solo para tareas que no requieran ningún esfuerzo humano.

¿Qué tipo de herramientas de IA debe utilizar el personal de la UA?. Cualquier herramienta gratuita disponible en internet. Herramientas de IA autorizadas por la Universidad. Herramientas desarrolladas por compañeros de trabajo sin aprobación oficial. Servicios de IA no autorizados que ofrezcan funciones avanzadas.

¿Qué se debe hacer con las salidas (resultados) de la IA antes de incorporarlas a documentos oficiales?. Incorporarlas directamente sin revisión. Revisarlas siempre con criterio profesional para corregir, completar o descartar. Asumir que son correctas y no necesitan verificación. Solo revisarlas si parecen incorrectas.

¿Se deben compartir credenciales o utilizar servicios externos no autorizados para tratar datos personales con IA?. Sí, si el servicio externo promete mayor eficiencia. Solo si la información no es muy sensible. No, se deben usar solo las cuentas y canales previstos y no compartir credenciales. Es aceptable si se hace de forma puntual.

¿Qué es un incidente de seguridad de la información en el contexto del uso de IA?. Un error simple de contenido que se corrige al revisar. Una fuga de datos, acceso no autorizado o alteración grave de información. El uso de una herramienta de IA no autorizada. Una sugerencia incorrecta de la IA.

¿Cómo se deben notificar los incidentes de seguridad relacionados con IA?. Informando al compañero más cercano. Usando el canal oficial definido por la División de Seguridad de la Información. Esperando a la revisión anual de seguridad. Publicando el incidente en redes sociales para alertar a otros.

¿La IA se rige por un régimen independiente en la UA o se integra en normativas existentes?. Tiene un régimen totalmente independiente y nuevo. Se integra en las obligaciones ya existentes de seguridad, protección de datos y uso de recursos informáticos. Solo se aplica la normativa europea, no la de la UA. No existe una normativa específica para la IA en la UA.

¿Qué marco general de seguridad aplica a los sistemas de información de la UA, incluyendo los que incorporan IA?. Solo las directrices de seguridad de cada proveedor de IA. El Esquema Nacional de Seguridad (ENS) y la Política de Seguridad de la Información de la UA. Un marco de seguridad definido exclusivamente por el AI Act. Normativas de seguridad obsoletas de hace más de 10 años.

Al usar herramientas de IA con datos personales, ¿qué se debe evitar hacer?. Introducir solo los datos estrictamente necesarios. Evitar datos sensibles o información clasificada en servicios generales de IA en la nube no autorizados. Introducir información personal irrelevante. Compartir la información con el proveedor de IA si lo solicita.

¿Qué se debe hacer si surgen dudas sobre la base jurídica o las decisiones automatizadas al usar IA?. Tomar la decisión de forma autónoma. Ignorar las dudas y proceder. Consultar a los canales previstos (ej. Delegado de Protección de Datos). Preguntar a compañeros sin experiencia en el tema.

¿Cómo se aplica la normativa interna sobre uso de recursos informáticos a las herramientas de IA?. No se aplica, la IA tiene sus propias reglas. Se aplica igualmente que a cualquier otra herramienta de IA. Se aplica solo si la herramienta de IA es de pago. Se aplica de forma muy laxa y flexible.

¿Se deben emplear servicios de IA gratuitos o no autorizados para tratar información de expedientes universitarios?. Sí, si son fáciles de usar. No, no se deben emplear servicios de IA gratuitos o no autorizados para tratar información sensible o de expedientes. Solo si la información no es confidencial. Es aceptable si se borra la información después de usarla.

¿Dónde se deben guardar los borradores y documentos generados con IA?. En cualquier carpeta del ordenador personal. En ubicaciones corporativas adecuadas al nivel de confidencialidad de los datos. En servicios de almacenamiento en la nube no seguros. En dispositivos USB sin cifrar.

¿Qué papel tiene el personal de la UA respecto a las directrices de seguridad de la UA al usar IA?. Ignorarlas, ya que la IA es diferente. Conocerlas y respetarlas también cuando usa IA para apoyar su trabajo. Solo seguirlas si la IA es desarrollada internamente. Delegar esta responsabilidad a los técnicos de informática.

¿Qué implica el 'uso responsable y crítico de la IA' por parte del personal usuario?. Aceptar ciegamente todas las sugerencias de la IA. Ser consciente de las capacidades y limitaciones de la IA, evaluando sus resultados. Desarrollar nuevas aplicaciones de IA sin permiso. Usar la IA solo para tareas muy sencillas.

¿Cuál es el objetivo principal del AI Act?. Promover la competencia en el mercado de la IA. Fomentar la investigación básica en inteligencia artificial. Garantizar que la IA se utilice de forma segura, respetando los derechos de las personas y evitando daños o discriminaciones. Establecer estándares técnicos universales para todos los sistemas de IA.

¿Qué se entiende por 'alfabetización mínima en IA' para el personal usuario?. Ser capaz de construir un modelo de IA desde cero. Comprender los principios básicos de la IA, sus riesgos y sus aplicaciones adecuadas. Conocer la historia completa de la inteligencia artificial. Tener experiencia en el uso de redes neuronales profundas.

Si un sistema de IA crea bases de datos de reconocimiento facial de forma indiscriminada, ¿a qué categoría de riesgo pertenece?. Riesgo mínimo. Riesgo limitado. Alto riesgo. Práctica directamente prohibida (riesgo inaceptable). No se especifica en el documento.

¿Qué deben hacer los sistemas de IA de 'riesgo limitado' al interactuar con personas?. Operar en total secreto. Informar claramente a las personas que están interactuando con IA o contenido generado por IA. Solicitar el consentimiento explícito para cada interacción. Solo interactuar con personal autorizado.

¿Es obligatorio participar en acciones de formación sobre seguridad y uso responsable de IA?. No, es opcional. Sí, el personal debe participar en las acciones de formación y concienciación organizadas por la UA. Solo si el personal trabaja directamente con IA. La participación es obligatoria solo para el personal directivo.

¿Qué ocurre si se detectan errores, sesgos o resultados anómalos en un sistema de IA de alto riesgo?. El personal usuario debe corregirlos por su cuenta. Se deben ignorar si el resultado parece útil. El personal debe avisar a los responsables correspondientes. Se debe dejar de usar el sistema inmediatamente sin notificar a nadie.

¿Qué normativa de protección de datos sigue aplicándose plenamente cuando se usan herramientas de IA con datos personales?. Solo las leyes nacionales de protección de datos. El RGPD y la LOPDGDD. Normativas específicas de la industria tecnológica. No se aplica ninguna normativa de protección de datos a la IA.