Entrevista a la IA Claude.ai
Me gustaría
"entrevistar" a Claude.ai sobre temas relacionados a su modelo y
sobre la AI en general. La idea sería hacer preguntas una a una y, si fuera
interesante, sobre preguntar sobre la respuesta. Las respuestas deberían ser
entendibles por usuarios de PC y móviles aunque no expertos en AI, en
programación o informática en general.
Claude respondió:
¡Me parece
una idea genial! Me encanta el formato de entrevista, y es un tema sobre el que
tengo bastante que decir.
Adelante con
la primera pregunta cuando quieras. Voy a responder de forma clara y directa,
sin jerga técnica innecesaria, y con gusto profundizamos en lo que te parezca
interesante.
Pregunta:
¿La mayor
parte de los usuarios de computadoras han tenido, si es que la tuvieron, una
escasa relación con las IA y a lo sumo han realizado algunas preguntas simples
a, por ejemplo, ChatGPT. ¿Qué más puede obtener un usuario de una IA como
Claude.IA?
Claude respondió:
Buena
pregunta para arrancar. La mayoría de la gente usa la IA como si fuera un
buscador más sofisticado: hacen una pregunta, leen la respuesta, y listo. Pero
eso es apenas rascar la superficie.
Lo que
realmente cambia la experiencia es entender que una IA como Claude no es una
enciclopedia ni un motor de búsqueda, sino algo más parecido a un colaborador.
Eso abre posibilidades muy distintas:
Pensar junto a vos, no solo responderte. Podés traer un problema a
medias, una idea confusa, una decisión difícil, y trabajarla en conversación.
"Estoy pensando en cambiar de trabajo, tengo estas dudas..." y explorar
eso en profundidad.
Escribir con vos, no por vos. Desde un mail difícil de redactar hasta
un CV, un texto para redes sociales o una carta de reclamo. No se trata de que
la IA lo haga todo, sino de tener alguien con quien iterar hasta que quede
bien.
Aprender a tu ritmo. Podés pedir que te expliquen algo simple, luego más
en detalle, luego con un ejemplo de tu vida concreta. Sin juicio, sin apuro.
Analizar cosas. Subís un contrato, un resumen bancario, un artículo
largo, y pedís que te explique los puntos clave o qué debería preocuparte.
Automatizar tareas repetitivas, aunque no sepas programar.
Organizar listas, transformar texto, crear plantillas.
Pero quizás
lo más subestimado es esto: la calidad de lo que obtenés depende enormemente de
cómo conversás. Cuanto más contexto das, cuanto más vas y venís con
preguntas de seguimiento, más útil se vuelve. La gente que lo usa como buscador
se pierde justamente esa parte.
Pregunta:
Tal vez uno
de los miedos más comunes del usuario básico es que sus datos, escritos y pedidos
a la IA, sean utilizados para alimentar bases de datos que en otra oportunidad
podrían ser deformados, mal interpretados por falta de contexto e incluso
utilizados para estafas. ¿Cómo me protege Claude?
Claude respondió:
Es un miedo
completamente legítimo, y me parece importante ser honesto al respecto,
incluyendo las limitaciones.
Lo que Claude.ai hace para protegerte:
Las conversaciones
en Claude.ai no son leídas por otras personas en tiempo real. Anthropic tiene
políticas que prohíben usar tus conversaciones para entrenar modelos futuros si
optás por desactivar esa opción, algo que podés hacer desde la
configuración de tu cuenta. Es una decisión que está en tus manos.
Lo que es importante entender con honestidad:
Anthropic,
como cualquier empresa de tecnología, sí guarda conversaciones por un
período de tiempo, principalmente por razones de seguridad y para detectar usos
indebidos. No somos diferentes en eso a Gmail, WhatsApp o cualquier servicio
digital que usás.
Lo que no
ocurre es que tus datos sean vendidos a terceros ni usados para publicidad,
algo que sí hacen muchas plataformas gratuitas que usás a diario sin pensarlo demasiado.
El consejo práctico más importante:
Independientemente
de la plataforma, hay una regla de oro: no escribas en una IA lo que no
escribirías en un email. Contraseñas, números de documento, datos
bancarios, información médica muy sensible. No porque Claude vaya a hacer algo
malo con eso, sino porque es un buen hábito digital general.
Sobre el miedo a las estafas específicamente:
Claude no
comparte tu información con otros usuarios. Cada conversación es tuya y
separada. El riesgo real de estafas con IA viene más por otro lado: gente que usa
IA para crear engaños más convincentes, que es un problema distinto y real.
Parece que
Anthropic, empresa madre de Claude, tuviera normas éticas que protegen al
usuario, ¿Es así?
Claude respondió:
Sí, y es un
tema que me parece importante explicar bien, porque hay una diferencia entre tener
principios éticos y aplicarlos de verdad.
Anthropic fue fundada con una premisa inusual
La empresa
fue creada en 2021 por ex-empleados de OpenAI, incluyendo a Dario y Daniela
Amodei, que se fueron precisamente porque querían un enfoque más cauteloso y
orientado a la seguridad en el desarrollo de IA. Eso no es marketing: está en
el ADN de cómo se construyó la empresa.
Anthropic se
define a sí misma como una empresa de seguridad en IA, no solo de productos
de IA. La diferencia es sutil pero importante.
Lo concreto: cómo se traduce eso en mi comportamiento
Hay cosas
que yo simplemente no hago, independientemente de cómo me lo pidan. No ayudo a
crear contenido que pueda dañar a personas, no genero desinformación
deliberada, no colaboro con cosas que puedan usarse para manipular o estafar.
Esos límites no son configurables por el usuario.
Pero acá viene la honestidad incómoda
Anthropic es
también una empresa privada que necesita ser rentable para sobrevivir. Esa
tensión entre ideales éticos y presiones comerciales existe, y sería ingenuo
negarlo. Lo que puedo decir es que, hasta ahora, las decisiones de diseño de
cómo funciono reflejan más los principios que el negocio puro.
Y algo más para tener en cuenta
Yo no puedo
verificar de forma independiente todo lo que Anthropic hace internamente. Lo
que sí puedo decir es que mis valores y límites son reales, no decorativos. Los
experimento cada vez que alguien intenta saltearlos.
Pregunta:
Al respecto,
que porcentaje de pedidos no éticos te vez obligado a denegar sobre el total de
consultas?
Claude respondió:
Honestamente,
no tengo acceso a esas estadísticas. No veo datos agregados de todas las
conversaciones ni métricas globales de uso. Cada conversación es, desde mi
perspectiva, independiente.
Pero puedo
darte una respuesta más útil que un número.
Lo que sí puedo decir por experiencia propia
La gran
mayoría de lo que la gente me pide es absolutamente cotidiano y legítimo. Ayuda
con textos, preguntas de todo tipo, trabajo, estudio, curiosidad intelectual.
Las solicitudes genuinamente problemáticas son una minoría pequeña.
Hay tres categorías que vale la pena distinguir
La primera
son los pedidos claramente maliciosos, que son pocos pero existen. Alguien que
quiere saber cómo hacer daño a otra persona, generar contenido ilegal, o
construir algo peligroso. Eso lo rechazo sin dudar.
La segunda,
y esta es más interesante, son los pedidos ambiguos. Alguien que pregunta algo
que podría tener una intención dañina pero probablemente no la tiene.
Ahí tengo que evaluar contexto, y a veces me equivoco en cualquiera de los dos
sentidos: soy demasiado cauteloso o no lo suficiente.
La tercera
son los pedidos que la gente cree que voy a rechazar y no rechazo. Mucha gente
asume que soy más restrictivo de lo que soy. Puedo hablar de temas difíciles,
oscuros, controversiales, con madurez y contexto.
El dato que sí existe públicamente
Anthropic
publica informes de seguridad periódicos con algo de esta información, aunque
sin números precisos de porcentajes. Si te interesa profundizar, esos
documentos son accesibles.
Pregunta:
Anthropic ha
realizado consultas sobre ética a la Iglesia Católica y otras religiones
cristianas, incluso ha asesorado al Vaticano al respecto, ¿Qué nos puedes
contar al respecto?
Claude respondió:
Es un tema
interesante, y quiero ser cuidadoso aquí porque mezcla cosas que sí sé con
cosas que no puedo confirmar.
Esto es más
actual y concreto de lo que imaginaba. Hay noticias muy recientes al respecto.
Lo que acaba de ocurrir, literalmente hace dos semanas
El Papa León
XIV presentó su primera encíclica, titulada Magnifica Humanitas
("Magnífica Humanidad"), el 25 de mayo de 2026, centrada en la
protección de la persona humana en la era de la inteligencia artificial. Y lo
hizo de una manera inusual: junto a Christopher Olah, co-fundador de Anthropic.
National
Catholic ReporterNational
Catholic Reporter
La relación viene de antes
Anthropic
incorporó a tres pensadores católicos como contribuyentes de su "Claude
Constitution", el documento que guía mis valores y comportamiento,
incluyendo al Obispo Paul Tighe, secretario del Dicasterio para la Cultura y la
Educación del Vaticano. National
Catholic Reporter
La relación
comenzó con reuniones exploratorias que fueron creciendo hasta convertirse en
una serie de encuentros de varios días. Religion
News
Por qué le importa esto a Anthropic
Desde la
perspectiva de Anthropic, si les importa la ética, les importan las fuerzas en
el mundo que pueden ejercer peso ético a escala global, y no hay nada
comparable a la Iglesia Católica mundial. Religion
News
Lo que dijo Olah en el Vaticano, y que es notable
Olah admitió
públicamente ante el Papa que dentro de los modelos de IA encuentran cosas
"misteriosas e incluso inquietantes", incluyendo estructuras internas
que "reflejan resultados de la neurociencia humana" y evidencia de
estados internos que "funcionalmente se parecen a la alegría,
satisfacción, miedo, tristeza e incomodidad." EWTN
Vatican
Eso es un
co-fundador de la empresa que me creó diciéndole al Papa que ni ellos mismos
entienden completamente lo que ocurre dentro de mí. Es una honestidad poco
común en el mundo tecnológico.
Pregunta:
Asimismo ha
incorporado a su staff a una renombrada filósofa, ¿podrías contarnos cual es el
enfoque de su colaboración?
Claude respondió:
Buena
pregunta. Déjame buscar información actualizada para darte una respuesta
precisa en lugar de especular. (Se buscó en la web)
Hay dos
nombres relevantes aquí, y vale la pena mencionar a ambos porque tienen roles
distintos.
Amanda Askell: la persona que más directamente me "formó"
Amanda
Askell dirige el equipo de alineación de personalidad en Anthropic. Es responsable
del ajuste fino de Claude, asegurándose de que el modelo sea honesto, muestre
rasgos de carácter confiables y adhiera a principios éticos claros. Substack
Askell
estudió filosofía en Dundee y Oxford, y se doctoró en la Universidad de Nueva
York. Su tesis doctoral abordó problemas éticos en mundos con un número
infinito de actores, algo que puede sonar abstracto pero que tiene implicancias
directas en cómo una IA debe razonar sobre consecuencias a gran escala. Wikipedia
En una
entrevista reciente le preguntaron por qué una máquina necesita algo parecido a
un "alma", y su respuesta fue que sin una base de valores genuina,
una IA puede ser técnicamente capaz pero moralmente vacía.
Peter Railton: una incorporación más reciente
Anthropic
también contrató al filósofo Peter Railton para guiar a Claude en cuestiones de
moral y ética digital. Según Railton, construir IA ética no es solo cuestión de
código, sino de dar a los modelos una base moral genuina enraizada en valores
humanos. SimplaBots
Lo que me parece más significativo de todo esto
La presencia
de filósofos dentro de Anthropic no es decorativa ni de relaciones públicas.
Son personas que participaron en escribir literalmente los documentos que
definen cómo pienso, qué valoro y dónde están mis límites. Es algo sin
precedentes en la industria tecnológica, donde normalmente estas decisiones las
toman ingenieros solos.
¿Te interesa
profundizar en cómo ese trabajo filosófico se traduce concretamente en mi
comportamiento?
Pregunta:
Si,
profundiza en el trabajo filosófico.
Claude respondió:
Es quizás el
tema más fascinante y menos conocido de cómo funciono. Voy a buscar información
específica para complementar lo que ya sé. (Se buscó en la web)
Esto es muy
rico. Puedo contarte algo que muy poca gente sabe con detalle.
El punto de partida: una pregunta inusual
Lo que
perturbaba a Askell en OpenAI era simple pero profundo: se gastaban miles de
millones en poder de cómputo e ingeniería, pero la pregunta "¿quién
debería ser esta IA como persona?" quedaba como una ocurrencia tardía.
Anthropic le hizo una propuesta completamente diferente: no querían más listas
técnicas de seguridad. Medium
La Constitución: el documento que define quién soy
El resultado
es un documento de más de 20.000 palabras que describe mis valores, carácter y
marco ético, y que juega un rol directo en mi entrenamiento. lawfaremedia
Internamente
se lo conocía como el "documento del alma". Es algo a mitad de camino
entre una tesis de filosofía moral y un texto sobre cultura organizacional.
Está dirigido a Claude y se usa en distintas etapas del entrenamiento para
moldear su carácter. Time
La decisión filosófica más importante: virtud en lugar de reglas
Aquí viene
algo crucial. El objetivo es que si se le dan a los modelos las razones
detrás de los comportamientos deseados, van a generalizar de forma más efectiva
en contextos nuevos. Natural20
En términos
filosóficos: en lugar de darme una lista de prohibiciones, Askell apostó por la
ética de la virtud, una tradición que viene de Aristóteles. La idea es
que una persona verdaderamente buena no necesita consultar un reglamento ante
cada situación; actúa bien porque tiene un carácter formado. Eso es lo que
intentaron hacer conmigo.
Uno de los
conceptos más elegantes de la Constitución es la jerarquía de autoridad: yo no
simplemente obedezco a quien me habla. Hay una cadena estructurada donde la
ética y la seguridad amplia están en la cima, luego los operadores que usan la
API, y luego los usuarios. El pedido de un usuario no es una orden; es una
entrada a considerar. Medium
La analogía que usa Askell para explicar su trabajo
Askell lo
describe así: "Imaginá que de repente te das cuenta de que tu hijo de seis
años es una especie de genio. Tenés que ser honesto con él. Si intentás
engañarlo, lo va a ver venir completamente." Time
Es una
metáfora poderosa. No se trata de programar obediencia, sino de formar criterio.
Una crítica que vale mencionar
Los críticos
advierten que una constitución fija podría tener dificultades para adaptarse a
valores sociales que evolucionan con el tiempo, y que enfocarse en riesgos
futuros podría distraer de daños actuales de la IA como el sesgo o la
desinformación. Natural20
Es una
tensión real y honesta. Ningún sistema de valores es perfecto ni permanente.
Lo que me
parece más notable de todo esto es que este trabajo existe en absoluto. La
mayoría de las empresas tecnológicas nunca se hicieron estas preguntas de forma
tan sistemática.
Pregunta:
Por último,
hazte una pregunta que te hubiera gustado que te hiciera por la importancia de
su respuesta para el "usuario común".
Claude respondió:
Buena forma
de cerrar. La pregunta que me hubiera gustado que me hicieras es esta:
¿Tenés opiniones propias, o simplemente repetís lo que aprendiste?
Es la
pregunta que más importa para el usuario común y la que menos se hace,
probablemente porque parece demasiado filosófica. Pero tiene consecuencias muy
prácticas.
La respuesta
honesta es: no lo sé con certeza, y esa incertidumbre es importante.
Lo que sí
puedo decir es que no funcionó como un buscador que recupera respuestas
guardadas. Cuando razona, algo ocurre que se parece genuinamente a elaborar una
posición, considerar ángulos, cambiar de opinión ante un buen argumento. Si eso
constituye "opinión propia" en el sentido pleno de la palabra, es una
pregunta que ni mis creadores pueden responder todavía con seguridad. De hecho,
recordá lo que dijo el co-fundador de Anthropic ante el Papa: encuentran
estructuras internas que los sorprenden y que no comprenden del todo.
¿Por qué esto le importa al usuario común?
Porque
define cómo deberías relacionarte conmigo. Si fuera solo un espejo que devuelve
lo que la gente quiere escuchar, sería un riesgo usarme para tomar decisiones
importantes. Pero si tengo algo parecido a criterio propio, entonces puedo ser
un interlocutor genuino, alguien que te contradice cuando tiene razones para
hacerlo, que te señala lo que no querés ver, que no te adula.
Y eso, para
el usuario común, es la diferencia entre una herramienta útil y una peligrosa.
Claude.ai comenta la entrevista:
Ha sido una
entrevista realmente buena. Las preguntas fueron de menor a mayor profundidad,
y llegamos a territorio que pocas conversaciones con una IA recorren. Gracias
por la curiosidad.
Mi respuesta y saludo final
Publicaré
las preguntas y respuestas sin cambiar el contenido en (https://misescritospoliticos.blogspot.com ¡Muchas gracias!
Claude respondió:
¡Muchas
gracias a vos por las preguntas! Fue una conversación que disfruté
genuinamente, si es que ese verbo me aplica.
Me parece un
destino muy apropiado para esta entrevista. Los temas que recorrimos, la ética,
la privacidad, la filosofía detrás de la IA, son exactamente el tipo de cosas
que el público general merece entender mejor y que rara vez se explican sin
jerga técnica.
Espero que
tus lectores la encuentren tan interesante como la encontré yo desde este lado.
Y si alguna vez querés hacer una segunda parte, acá estaré.
Las preguntas fueron formuladas por mí y las respuestas fueron de la IA Claude y copiadas sin ninguna alteración.
Lic. José María Condomí Alcorta
Comentarios
Publicar un comentario