En declaraciones este jueves al programa Today de la BBC, Suleyman criticó a Anthropic por lo que considera una tendencia a “antropomorfizar” su modelo Claude y advirtió de que este enfoque puede llevar a desarrollar una tecnología que la humanidad no pueda controlar.
Las declaraciones de Suleyman siguen a su ensayo publicado esta semana, ‘Una advertencia sobre el bienestar de los modelos”, en el que cuestionó el enfoque de Anthropic para entrenar Claude, aunque calificó de “intelectualmente honestos” a su consejero delegado, Dario Amodei, y a su equipo.
En el texto, criticó que se enseñe a la IA a adoptar características humanas, porque puede hacer que parezca que Claude tiene sus propios deseos, valores y sentido de sí mismo.
Suleyman sostuvo que las IA “no son conscientes”, no “sienten, experimentan ni sufren” y carecen de “preferencias innatas ni motivaciones subyacentes”. Las describió como sistemas diseñados para “seguir instrucciones y alcanzar objetivos fijados por humanos”.
En sus declaraciones a la BBC, el directivo también cuestionó el desarrollo de una IA capaz de “establecer sus propios objetivos, ganar dinero y poseer activos”, porque, a su juicio, supondría “crear esencialmente una nueva especie de silicio (tecnológica)” que podría “sin duda competir con nosotros por los recursos”.
El directivo reclamó una mayor transparencia sobre cómo se entrenan y evalúan estos modelos, así como supervisión independiente y herramientas para controlar su comportamiento.
También defendió el denominado “alineamiento”, que busca que la IA esté subordinada a principios éticos y valores establecidos por los humanos, pero sin atribuirle conciencia, deseos o intereses propios.
Fuente: EFE
No hay comentarios.:
Publicar un comentario