Gestor26. Tema 18- 2

AI✦

¿Qué es el AI Act y por qué afecta a la Universidad de Alicante (UA)?. Es una norma europea que regula el uso de la IA, afectando a la UA al ser una administración pública. Es un reglamento interno de la UA para el uso de IA en la docencia. Es una ley que solo aplica a empresas tecnológicas y no a universidades. Es una guía de buenas prácticas no vinculante para el uso de IA. Es un acuerdo internacional para el desarrollo de IA, sin implicaciones legales directas.

¿Cuál es el objetivo principal del AI Act?. Fomentar el desarrollo de IA sin restricciones. Asegurar que la IA se utilice de forma segura, respetando derechos y evitando daños o discriminaciones. Prohibir el uso de IA en el ámbito educativo. Establecer un marco para la IA solo en el sector privado. Simplificar el uso de IA sin preocuparse por la seguridad.

¿El AI Act sustituye al Reglamento General de Protección de Datos (RGPD)?. Sí, el AI Act lo reemplaza completamente. No, el AI Act se aplica además de las normas existentes como el RGPD. Solo lo sustituye en casos de alto riesgo. Depende de la legislación de cada país miembro. Lo sustituye para sistemas de IA generativa.

En el contexto de la UA, ¿cuál es el rol de la Universidad respecto a los sistemas de IA?. El personal es el único responsable de decidir qué sistemas de IA usar. La Universidad es responsable de decidir qué sistemas de IA se usan, con qué fines y bajo qué condiciones. La Universidad solo aprueba sistemas de IA desarrollados internamente. La Universidad no tiene ninguna responsabilidad sobre el uso de IA. La Universidad delega toda la responsabilidad en los proveedores de IA.

¿Qué se considera un sistema de IA en la práctica según el documento?. Cualquier herramienta informática que realice cálculos. Un sistema que solo aplica reglas fijas sin aprendizaje. Una herramienta informática que, a partir de datos, genera resultados con cierto grado de autonomía y aprendizaje. Solo los chatbots y asistentes virtuales. Las hojas de cálculo con funciones avanzadas.

¿Cuál de los siguientes es un ejemplo habitual de sistema de IA en el trabajo administrativo?. Un sumatorio sencillo en una hoja de cálculo. Un sistema de gestión de bases de datos relacionales. Asistentes de redacción que proponen borradores de correos. Procesadores de texto con funciones básicas de formato. Software de contabilidad tradicional.

¿Qué tipo de operaciones quedan fuera del concepto de sistema de IA según el documento?. Herramientas de análisis predictivo. Sistemas de recomendación personalizados. Operaciones puramente mecánicas, como un sumatorio sencillo en una hoja de cálculo sin parte 'inteligente'. Chatbots para atención al cliente. Sistemas de traducción automática.

¿Qué distingue el AI Act entre desarrolladores y usuarios?. El AI Act solo regula a los desarrolladores. El AI Act distingue entre quienes desarrollan/comercializan y quienes usan los sistemas de IA. El AI Act solo regula a los usuarios profesionales. El AI Act no hace distinción entre ambos roles. El AI Act regula solo a los proveedores de servicios en la nube.

¿Cuál es el papel del personal usuario en el contexto de la UA respecto a la IA?. Utilizar herramientas no autorizadas y experimentar libremente. Utilizar las herramientas autorizadas, seguir instrucciones y mantener un uso responsable y crítico. Solo usar IA para tareas que no requieran juicio humano. Ignorar las políticas internas y usar cualquier herramienta disponible. Delegar toda la responsabilidad de uso a los departamentos técnicos.

¿Cómo organiza el AI Act la regulación en función del riesgo de la IA?. Por niveles de coste de implementación. Por niveles de riesgo: inaceptable (prohibido), alto riesgo, riesgo limitado y riesgo mínimo. Solo clasifica los sistemas de IA como seguros o inseguros. Por la complejidad del algoritmo utilizado. Por el tipo de datos que procesa la IA.

¿Qué tipo de prácticas de IA están directamente prohibidas por el Reglamento en la UE?. Sistemas de generación de texto para borradores. Herramientas de resumen de documentos largos. Sistemas que manipulan encubiertamente el comportamiento de las personas o explotan vulnerabilidades. Chatbots para responder preguntas frecuentes. Sistemas de clasificación de expedientes.

¿Cuál de las siguientes es una señal de alarma clara de una práctica de IA prohibida en la UA?. Herramientas de traducción automática. Sistemas que proponen clasificaciones de tareas. Propuestas de herramientas que 'midan' emociones de estudiantes en exámenes. Asistentes de redacción para correos electrónicos. Sistemas de resumen de documentos.

¿Qué se debe hacer ante una propuesta de una práctica de IA directamente prohibida?. Impulsarla y usarla inmediatamente. No impulsarla ni usarla y remitirla a los servicios técnicos y jurídicos correspondientes. Usarla con precaución y bajo supervisión directa. Consultar solo al responsable de seguridad informática. Probarla en un entorno de desarrollo antes de decidir.

¿Qué exigen los sistemas de IA considerados de riesgo limitado?. La prohibición de su uso. La transparencia, es decir, que las personas sepan que interactúan con IA o contenido generado por IA. Solo la supervisión de personal técnico. Un informe de impacto anual. La aprobación explícita de la dirección general.

Si un canal de atención incorpora un chatbot, ¿qué se debe hacer según el principio de transparencia?. No informar a los usuarios para no influir en su comportamiento. Informar claramente a las personas usuarias que están interactuando con un chatbot o asistente de IA. Solo informar si el usuario pregunta directamente. Depende del diseño del chatbot. La información es opcional.

¿Cuándo debe indicarse que se utilizan contenidos generados o modificados por IA?. Solo si el contenido es incorrecto. Cuando puedan confundirse con contenidos reales. Nunca, para no generar desconfianza. Solo en comunicaciones internas. Cuando lo solicite el proveedor de la IA.

¿Qué se considera de 'alto riesgo' según el documento?. Sistemas de IA para redactar correos. Herramientas de IA que influyen en la admisión, evaluación o calificación de estudiantes. Asistentes virtuales para preguntas frecuentes. Sistemas de resumen de documentos. Software de gestión de proyectos.

En casos de 'alto riesgo' de IA, ¿quién tiene la responsabilidad principal de configuración y supervisión?. El personal usuario final. Los proveedores externos exclusivamente. Responsables técnicos, jurídicos y de protección de datos. El departamento de marketing. Los propios sistemas de IA.

¿Qué debe hacer el personal usuario en casos de IA de 'alto riesgo'?. Tomar decisiones automatizadas por su cuenta. Impulsar el uso de la herramienta sin consultar. Cumplir las instrucciones de uso, no tomar decisiones automatizadas y avisar de errores o sesgos. Modificar la configuración del sistema sin autorización. Utilizar la herramienta para cualquier fin, incluso no autorizado.

¿Qué nivel de conocimiento exige el AI Act al personal usuario de IA?. No se exige ningún conocimiento específico. Un nivel suficiente para utilizarlos de forma segura y responsable, adaptado a su función y contexto. Solo conocimientos básicos de informática. Ser un experto en inteligencia artificial. Conocimientos de programación de IA.

¿Qué implica la 'alfabetización mínima en IA' para el personal?. Saber programar sistemas de IA. Saber reconocer qué es un sistema de IA, entender su contexto y conocer sus riesgos frecuentes. Solo saber utilizar las herramientas autorizadas. Ser capaz de desarrollar nuevas aplicaciones de IA. No es necesaria ninguna alfabetización específica.

¿Cuál es un riesgo frecuente de la IA generativa que debe conocer el personal?. Generación automática de código. Errores factuales, datos inventados o desactualización. Mejora de la eficiencia en la redacción. Automatización de tareas repetitivas. Optimización de bases de datos.

La regla práctica fundamental sobre el uso de IA en el trabajo es: Utilizar la IA como sustituto del criterio profesional. Utilizar la IA como ayuda y no como sustituto del criterio profesional ni de la revisión humana. Confiar ciegamente en las respuestas de la IA. Usar la IA solo para tareas de bajo riesgo. Revisar solo los resultados que parezcan erróneos.

¿Qué deben hacer los usuarios con las salidas (respuestas) de la IA?. Aceptarlas siempre sin revisión. Corregir, completar o descartar las respuestas de la IA cuando sean incorrectas, incompletas o puedan generar discriminaciones. Solo usarlas si son borradores. Incorporarlas directamente a expedientes oficiales. Verificar solo la gramática y ortografía.

¿Se deben compartir las credenciales de acceso a herramientas de IA de la UA?. Sí, es necesario para colaborar. No, se deben usar solo las cuentas y canales previstos, sin compartir credenciales. Solo con compañeros del mismo departamento. Si el proveedor lo autoriza. Es opcional según la herramienta.

¿Qué se debe hacer si se detecta un error, sesgo o resultado anómalo en un sistema de IA?. Ignorarlo si el resultado es útil. Avisar a los servicios técnicos y jurídicos correspondientes. Intentar corregirlo por cuenta propia. No hacer nada, ya que es un fallo del sistema. Documentarlo internamente sin notificar.

¿Qué se debe hacer al usar IA para tratar datos personales o información sensible?. Introducir todos los datos disponibles para obtener mejores resultados. Evitar introducir datos sensibles o información clasificada en servicios generales de IA en la nube no autorizados. Usar servicios gratuitos de IA para ahorrar costes. Compartir la información con el proveedor de la IA para mejorar el servicio. No es necesario tomar precauciones especiales.

¿Qué normativa interna de la UA se aplica también a las herramientas de IA?. Solo la normativa sobre protección de datos. La normativa sobre uso de recursos y servicios informáticos. Ninguna normativa interna es aplicable a la IA. Solo la política de seguridad de la información. La normativa sobre accesibilidad web.

¿Se deben emplear servicios de IA gratuitos o no autorizados para tratar información de expedientes o de la comunidad universitaria?. Sí, si son fáciles de usar. Solo si la información no es confidencial. No, no se deben emplear servicios de IA gratuitos o no autorizados para tratar información sensible. Depende de la aprobación del superior jerárquico. Es aceptable si se usa con fines de prueba.

¿Dónde se deben guardar los borradores y documentos generados con IA?. En la carpeta de descargas del navegador. En ubicaciones corporativas adecuadas al nivel de confidencialidad de los datos. En el correo electrónico personal. En dispositivos USB no cifrados. En cualquier lugar de fácil acceso.

¿Qué se debe hacer si se produce un error de contenido en una herramienta de IA?. Notificarlo inmediatamente como incidente de seguridad. Corregirlo en la revisión normal, como cualquier otro error de contenido. Ignorarlo si el error es menor. Borrar el contenido generado por IA. Consultar al proveedor de la IA.

¿Qué constituye un incidente de seguridad relacionado con la IA?. Un error gramatical en un texto generado por IA. Una recomendación imprecisa de la IA. Una fuga de datos, acceso no autorizado o alteración grave de información. La generación de contenido no solicitado. La lentitud en la respuesta de la IA.

¿A través de qué canal se deben notificar los incidentes de seguridad relacionados con IA en la UA?. Al superior jerárquico directamente. Usando el canal oficial definido por la División de Seguridad de la Información. Por correo electrónico al departamento de informática. Publicándolo en la intranet de la UA. Informando al proveedor de la IA.

¿Qué debe hacerse para colaborar con el Equipo de Respuesta a Incidentes?. Ocultar información relevante. Facilitar toda la información necesaria sobre el uso de la IA para resolver la incidencia. Dejar que el equipo investigue sin intervención. Solo proporcionar la información solicitada explícitamente. Borrar rastros del incidente para simplificar la investigación.

¿Cómo se integra la IA dentro del marco normativo de la UA?. Como un régimen independiente de otras normativas. Se integra en las obligaciones ya existentes de seguridad, protección de datos, accesibilidad y uso de recursos informáticos. Reemplaza todas las normativas anteriores. Solo se rige por el AI Act europeo. No se integra, se considera un ámbito aparte.

Según el Esquema Nacional de Seguridad (ENS) y la Política de Seguridad UA, ¿qué deben cumplir las herramientas de IA?. Menos medidas de seguridad que otros sistemas corporativos. Las mismas medidas de seguridad que el resto de sistemas corporativos. Medidas de seguridad específicas y más laxas. No se les aplican medidas de seguridad del ENS. Medidas de seguridad definidas solo por el proveedor.

¿Qué deben respetar los usuarios antes de incorporar IA a un trámite o procedimiento?. Las decisiones del proveedor sobre el almacenamiento de datos. Las decisiones que la UA adopte sobre dónde se almacenan los datos, quién puede acceder a ellos y qué garantías ofrece el proveedor. Las sugerencias de los compañeros de trabajo. La disponibilidad inmediata de la herramienta. Las políticas de uso de redes sociales.

Al usar herramientas de IA con datos personales, ¿qué norma sigue aplicándose plenamente?. El AI Act exclusivamente. El RGPD y la LOPDGDD. Solo la política de seguridad de la UA. Ninguna norma externa. La legislación específica de cada proveedor.

En relación con la protección de datos, ¿qué significa 'minimización' al usar IA?. Introducir la mayor cantidad de datos posible. No introducir más datos personales de los necesarios en la herramienta de IA. Solo introducir datos anónimos. Minimizar el uso de IA para proteger los datos. Cifrar todos los datos antes de introducirlos.

¿Qué se debe consultar si surgen dudas sobre la base jurídica o decisiones automatizadas al usar IA?. El manual de usuario de la IA. Los canales previstos (servicios jurídicos, DPD, etc.). Un foro en línea de usuarios de IA. El departamento de recursos humanos. El compañero de al lado.

¿A qué fines se deben utilizar los equipos, redes y servicios de la UA, incluyendo los de IA?. Exclusivamente para fines profesionales autorizados. Para fines personales y profesionales. Solo para tareas de investigación. Para cualquier actividad no relacionada con la competencia. Principalmente para fines de entretenimiento.

¿Qué se debe respetar respecto a la instalación de software y uso de servicios en la nube con IA?. Las normas sobre instalación de software, uso en la nube y conexión de dispositivos. Las preferencias personales del usuario. Las recomendaciones de foros no oficiales. Solo las indicaciones del proveedor de la IA. No existen normas específicas para IA.

¿Qué tipo de soluciones de IA se deben usar para el tratamiento de información de expedientes o de la comunidad universitaria?. Cualquier solución gratuita disponible en internet. Solo soluciones autorizadas por la UA. Soluciones de código abierto sin revisión. Soluciones recomendadas por compañeros sin validación oficial. Plataformas de IA no verificadas.

¿Qué deben hacer los usuarios con las indicaciones del Servicio de Informática sobre soluciones de IA?. Ignorarlas si no están de acuerdo. Atender las indicaciones sobre qué soluciones de IA están autorizadas y con qué limitaciones. Consultar solo si hay problemas técnicos. Adaptarlas según su criterio. Desestimarlas si el proveedor ofrece alternativas.

¿Qué se debe hacer para participar en la formación y concienciación sobre IA en la UA?. Es opcional y no obligatorio. Participar en las acciones de formación y concienciación en seguridad, protección de datos y uso responsable de IA. Solo asistir si se tiene un rol específico. Ver los materiales de formación cuando haya tiempo libre. Delegar la asistencia a otros miembros del equipo.

¿Qué tipo de sistemas de IA están prohibidos por el AI Act debido a su potencial de manipulación?. Sistemas de recomendación de contenido. Sistemas que manipulan encubierta o engañosamente el comportamiento de las personas. Herramientas de traducción automática. Asistentes de redacción. Chatbots de atención al cliente.

¿En qué contexto se considera de alto riesgo un sistema de IA que ayuda a seleccionar personal?. Cuando se usa para seleccionar personal para prácticas no remuneradas. Cuando influye en la admisión, evaluación, rendimiento, ascensos o ceses de personal. Cuando se utiliza como un complemento a la decisión humana. Si el sistema es desarrollado por un proveedor externo. Cuando se usa para filtrar currículums inicialmente.

¿Qué significa que la IA se considera de 'riesgo limitado' en el contexto de la UA?. Que su uso está prohibido. Que requiere una supervisión técnica constante. Que exige transparencia, es decir, que los usuarios sepan que interactúan con IA o contenido generado por IA. Que solo puede ser utilizada por personal directivo. Que no requiere ninguna notificación.

¿Cuál es una obligación básica del personal usuario de IA respecto a las herramientas autorizadas?. Utilizar cualquier herramienta de IA disponible. Utilizar únicamente herramientas de IA autorizadas por la Universidad, respetando su finalidad y normas internas. Modificar las herramientas autorizadas para adaptarlas a necesidades no previstas. Compartir el acceso a herramientas autorizadas con personas no autorizadas. Solo usar herramientas de IA gratuitas.

Respecto a la protección de datos, ¿qué se debe evitar al usar IA en servicios generales en la nube?. Introducir datos públicos. Introducir datos personales genéricos. Introducir datos sensibles o información clasificada como interna o restringida en servicios no autorizados. Usar la IA para análisis de tendencias generales. Compartir resultados agregados.

¿Qué implica revisar las salidas de la IA con criterio profesional?. Aceptar ciegamente las recomendaciones de la IA. Incorporar los borradores o recomendaciones de la IA directamente a expedientes oficiales sin cambios. Verificar siempre las salidas de la IA antes de incorporarlas a expedientes, bases de datos o comunicaciones oficiales, corrigiendo o descartando lo necesario. Solo revisar si la IA indica que hay un posible error. Confiar en que la IA no comete errores.

¿Cuál es la diferencia entre un error de contenido y un incidente de seguridad en el uso de IA?. No hay diferencia, ambos se notifican igual. Un error de contenido se corrige en la revisión normal; un incidente de seguridad implica fuga de datos, acceso no autorizado, etc. Un incidente de seguridad es siempre causado por el usuario, mientras que un error de contenido es del sistema. Los errores de contenido son graves y los incidentes leves. Los incidentes de seguridad solo ocurren con IA de alto riesgo.