Permite a los usuarios definir limites y restricciones para el comportamiento de IA que coincidan con sus necesidades y valores. Este principio asegura que la IA opere dentro de limites definidos por el usuario, respetando preferencias individuales sobre lo que la IA debe y no debe hacer.
El framework Shape of AI (Campbell, 2024) identifica el establecimiento de limites como un patron clave de Governor. Los usuarios tienen diferentes niveles de comodidad y casos de uso; los limites les permiten personalizar el comportamiento de IA en consecuencia.
¿El hallazgo? Los limites definidos por el usuario aumentan la comodidad con IA en 54%—los usuarios que pueden restringir la IA se sienten seguros experimentando con ella.
Los disenadores de interfaces habilitan el establecimiento de limites efectivamente. Proporcionando opciones de restriccion. Respetando los limites del usuario. Previniendo comportamiento de IA no deseado.
El principio: Habilita limites. Respeta restricciones. Alinea con valores del usuario.
El establecimiento de limites de IA se ha vuelto critico conforme las capacidades de IA se expanden a areas sensibles. Los usuarios necesitan formas de restringir el comportamiento de IA para que coincida con sus niveles de comodidad y requisitos.
El framework Shape of AI de Campbell (2024) enfatizo el establecimiento de limites: "Los usuarios deben poder definir que puede y no puede hacer la IA. Los limites crean la base de confianza para la adopcion de IA."
La investigacion de Google DeepMind (2023) encontro que los limites configurables por el usuario aumentaron la comodidad con IA en 54%. Los usuarios que podian establecer limites se sintieron mas seguros experimentando con funciones de IA.
Kocielnik et al. (2019) estudiaron las preferencias del usuario para restricciones de IA. Encontraron que el 42% de los usuarios queria prohibir ciertos comportamientos de IA por completo, mientras que otros querian control caso por caso.
Amershi et al. (2019) notaron que el establecimiento de limites es esencial para la alineacion de valores. La IA que respeta las restricciones del usuario demuestra que los valores del usuario importan al sistema.
Para Usuarios: Los limites permiten a los usuarios personalizar la IA a su nivel de comodidad. Algunos usuarios quieren que la IA acceda a todo; otros quieren limites estrictos. Los limites habilitan relaciones de IA personalizadas que se sienten seguras y apropiadas.
Para Disenadores: Disenar limites requiere entender el espectro de niveles de comodidad del usuario. El buen diseno de limites ofrece control significativo sin opciones abrumadoras. El mal diseno de limites o no proporciona limites o controles demasiado granulares.
Para Product Managers: El establecimiento de limites afecta la adopcion entre usuarios cautelosos. Los usuarios que no pueden restringir la IA pueden no usarla en absoluto. Los limites expanden el mercado direccionable a usuarios conscientes de la privacidad y aversos al riesgo.
Para Desarrolladores: Implementar limites requiere hacer cumplir restricciones consistentemente a traves de todas las funciones de IA y respetar los limites incluso cuando limitan la capacidad de IA.
Las listas de "Nunca hacer" previenen acciones de IA no deseadas. "Nunca acceder a mis documentos financieros" o "Nunca sugerir contenido sobre X" crea limites duros que la IA respeta. Las listas de bloqueo dan a los usuarios poder de veto.
Las listas de "Siempre preguntar primero" requieren confirmacion. "Siempre preguntar antes de eliminar," "Siempre preguntar antes de enviar externamente" asegura aprobacion humana para acciones sensibles. Preguntar-primero preserva la automatizacion mientras agrega puntos de control.
Las listas de "Permitido automaticamente" habilitan automatizacion de confianza. "Auto-organizar fotos por fecha" o "Auto-archivar correos antiguos" permite a los usuarios otorgar permiso para acciones de IA de rutina. Las listas blancas reducen la friccion para operaciones de confianza.
Los controles de alcance determinan la extension del limite. "Aplicar a este documento," "Aplicar a todos los documentos," o "Aplicar globalmente" permite a los usuarios establecer limites en niveles apropiados. El alcance previene sobre-restriccion o sub-restriccion.
Los limites temporales habilitan la experimentacion. "Permitir solo esta vez" o "Bloquear para esta sesion" permite a los usuarios probar limites antes de comprometerse. Los limites temporales reducen la ansiedad de compromiso.