El 9 de febrero de 2026, Mrinank Sharma, quien lideraba el trabajo de seguridad/“safeguards” en Anthropic, anunció que ese había sido su último día en la empresa y compartió públicamente la carta con la que explicó su decisión.

Anthropic es una empresa de inteligencia artificial que se enfoca en desarrollar modelos de lenguaje seguros y responsables, con un fuerte énfasis en la seguridad y la alineación de la IA con los valores humanos. Fundada por ex investigadores de OpenAI.

En el texto, Sharma lanza una advertencia clara: dice que “el mundo está en peligro”, y que no se trata solo de la IA, sino también de bioweapons y de crisis interconectadas que se están desarrollando al mismo tiempo. Su idea central es que la humanidad se acerca a un umbral en el que la sabiduría ética y social debería crecer al ritmo del poder tecnológico, o de lo contrario pagaremos las consecuencias.

También deja entrever una tensión recurrente dentro de organizaciones tecnológicas: afirma que a menudo es difícil dejar que los valores guíen realmente las acciones, porque existen presiones que empujan en otra dirección. En su caso, esa brecha entre principios y decisiones fue parte importante de la motivación para irse.

Aun así, la carta no es solo una denuncia. Sharma menciona que se va con la sensación de haber contribuido en temas de seguridad, incluyendo trabajo relacionado con riesgos de bioterrorismo asistido por IA y otros estudios sobre impactos humanos de estos sistemas. Y explica que ahora quiere enfocarse en un camino más alineado con su integridad personal, incluso con espacio para la escritura y la poesía.

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

0 0 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

0 0 %

La entrada “El mundo está en peligro”: la carta de salida del jefe de seguridad de Anthropic se publicó primero en iCurbe.

Aunque en un principio se les conocía principalmente por sus empresas, hoy en día cada modelo se distingue claramente en sus capacidades y enfoques, haciéndolos únicos en sus respectivas áreas. Si sigues el desarrollo de la Inteligencia Artificial desde sus inicios en esta nueva era, puedes identificar que en ese momento no podías identificar claramente en que se diferenciaba una de otra, era más como la IA de fulano o mengano.

En un principio todos los modelos de IA eran muy parecidos y su uso también, su principal funcionalidad era el completamiento de frases como por ejemplo: «Crea un poema al estilo Edgar Allan Poe donde se habla del amor» y las IA del momento tenían la capacidad de crear este poema y lo hacían bastante bien, aunque los modelos de hoy también pueden hacer esto, la diferencia es que ahora pueden hacer muchas más cosas y alucinan mucho menos que en ese entonces.

Parece que estamos hablando de hace diez o veinte años atrás, pero para nada, hablamos de a penas dos años atrás, es increíble a la velocidad que podemos ver los avances en esta ciencia, solo por mencionar que en ese momento esperábamos un año para ver actualizaciones, hoy estamos viendo mejoras increíbles cada seis meses, así de rápido vamos, esto genera diversas especulaciones como la que dice que estamos en una burbuja de IA a punto de explotar, pero esto es tema para otro momento.

Ya en la actualidad podemos percibir como se van creando marcadas diferencias entre los principales competidores de IA y vamos a ver cada uno de ellos:

ChatGPT: Sigue siendo el líder del mercado en cuanto a tráfico, me refiero a la cantidad de personas que lo usan a diario, para tareas relacionadas con el lenguaje natura, en cuanto a ecosistemas de aplicaciones en mi opinión es también el número uno, sobre todo luego de reciente evento donde presentaron una serie de mejoras en este sentido y repito que es el más popular entre la gente por razones obvias, fue el primero en poner en manos de las personas un uso decatizado de la IA por decirlo de alguna manera, galardón que pase lo que pase podrá presumir de él para siempre.

Claude: Poco conocido, pertenece a la empresa Anthropic gestada desde dentro mismo de OpenAI, pero que marcaron un paso y una idea diferente, ellos se centraron en la programación y la matemática, por lo que es evidente que es muy popular entre los creadores de software sobre todo, en mi opinión tienen los mejores modelos para programar, los uso a diario y luego de probar incluso las recientes actualizaciones de los modelos para código de OpenAI esa es mi conclusión, ha creado un ecosistema increíble para los desarrolladores de software y creo que en eso han marcado la diferencia.

Gemini: Perteneciente al gigante tecnológico Google, los modelos de Gemini se caracterizan por creación de imágenes como ningún otro modelo lo puede hacer, el recientemente lanzado modelo conocido como Nano Banana es increíble y no tiene competidores cercanos. Además, su modelo Veo 3 para la creación de videos es realmente increíble, aunque OpenAI ha presentado su modelo de creación de video Sora 2 tengo que decir que Veo 3 sigue siendo mejor, por muy poco, pero mejor desde mi punto de vista. Gemini también posee un robusto ecosistema de aplicaciones al rededor de la IA y ya están moviendo la fichas hacia la búsqueda totalmente guiada por la IA, vamos a pasar de buscar en el navegador como lo hacíamos tradicionalmente a búsquedas guiadas por una IA.

Como ven, hay una marcada diferencia entre estos tres grandes competidores, que en mi opinión son los que marcan el paso, claro que hay otros y sin en afán de menospreciarlos, pero no creo que sean dominadores a corto plazo. Si tuviera que apostar por uno de estos para el futuro, diría que Google, con su ecosistema y sus millones de usuarios, su capacidad para generar nueva tecnología y la indiscutible experiencia, serían mi apuesta de cara al futuro si de un dominador de la IA se tratara.

¿Y tú, como ves el panorama de la Inteligencia Artificial en este sentido, si tuvieras que apostar por uno de ellos a futuro cuál sería? Gracias por llegar hasta aquí, nos vemos en otro artículo para hablar de IA. ¡Nos vemos!

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

0 0 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

0 0 %

La entrada Gemini, ChatGPT o Claude: Ahora más diferenciados que nunca se publicó primero en iCurbe.

Llevo más de 15 años programando y siento que a medida que pasan los años tengo más conocimiento y dominio de todo lo que envuelve este hermoso arte de crear, para mí es así, es un arte, creamos artefactos que cobran vida en el mundo digital y cada uno de ellos lleva consigo el espíritu de la persona o el equipo que lo desarrolló. Lo que nunca imaginé, ni en mi más optimista visión del futuro, es que mi hija de 10 años pudiera programar.

Les cuento un poco la historia de como se dieron los hechos; la otra noche estaba desarrollando una idea que tenía en mente hace algún tiempo, la idea es básicamente un sistema de búsquedas de productos de forma inteligente, conectando tiendas existente y ofreciendo a los que no tiene una tienda simple, bueno estaba justo desarrollando una tienda en línea simple, esto lo estaba haciendo con la ayuda de la Inteligencia Artificial y aquí viene lo interesante.

Resulta que mi hija, que es muy curiosa para todo, se me acerca y me pregunta qué estoy haciendo, yo en lo particular me gusta compartir con mis hijos lo que hago, si es un nuevo proyecto o una idea que tengo, la comparto con ellos, me interesa mucho sus opiniones libres de sesgos y sincera, yo ya le había comentado a ella sobre este tema, así que le dije que estaba trabajando en la idea que yo le platiqué días atrás.

Le comencé a explicar como la Inteligencia Artificial me ayudaba a crear código según instrucciones que yo le daba en lenguaje natural y se me ocurrió que ella se sentara a escribir estas instrucciones mientras yo le iba diciendo que escribir, recuerdo que estábamos creando la funcionalidad de la lista de deseos, todos conocen que es la lista de deseos cuando ingresamos a una tienda en línea. En un punto la funcionalidad no estaba haciendo su trabajo bien, al quitar un producto de la lista de deseos se eliminaban todos, yo como reto y para ver que pasaba me fui a duchar y la dejé frente a la PC a solas con la IA con la tarea de intentar resolver ese problema.

Mi sorpresa cuando regresé de la ducha fue que con gran alegría mi hija me dijo «lo arreglé papá», ya la lista de deseos funcionaba perfectamente, si bueno lo sé, no es que mi hija de 10 años sepa programar precisamente, pero de alguna manera tenía que llamar su atención para que entraran y leyeran este artículo, pues considero importantes algunas preguntas que nos podemos hacer de esta experiencia:

¿La IA está democratizando la creación de software y haciéndola accesible a muchas más personas de la que imaginamos?

¿Pasar de conocer lenguajes de programación a programar en lenguaje natural es el futuro de la programación?

¿Esto significa que los programadores se extinguirán con el auge de la IA y su capacidad para crear código?

Estas son solo algunas interrogantes de las que podríamos hacernos, en mi opinión, la Inteligencia Artificial está democratizando el acceso a la creación de aplicaciones, esto hace que muchas más personas puedan crear sus propias aplicaciones hasta ciertos niveles, antes era una tarea imposible para alguien no técnico plantearse crea una aplicación por muy simple que fuera.

Por otra parte, creo que la evolución normal de los programadores será hacia la programación en lenguaje natural, así que será importante conocimiento de patrones, buenas prácticas de desarrollo, arquitectura y todo tipo de conocimiento teórico de la creación de software una especie de arquitectos para definirlo de alguna manera. No creo que los programadores se extingan o algo por el estilo, creo que como ya mencione seremos más comunicadores efectivos para crear código con la IA, seremos por decir un nombre conocido arquitectos, más que conocedores de lenguajes de programación. También creo que los lenguajes de programación van a cambiar y se van a adaptar más a estos nuevos tiempos de la era de la Inteligencia Artificial.

¿Y tú que crees de todo esto? Me gustaría conocer tu opinión al respecto, así que déjame tu comentario. Bueno, ha sido todo por ahora, nos vemos en otro artículo para seguir hablando de Inteligencia Artificial.

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

0 0 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

2 100 %

La entrada Mi hija de 10 años sabe programar se publicó primero en iCurbe.

En un reciente artículo de Anthropic, una de las empresas más influyentes en el mundo de la Inteligencia Artificial, habla sobre temas de adopción de la IA a niveles geográficos y empresariales, con datos muy interesantes. Al leer este artículo me propuse investigar un poco más sobre el tema en nuestra región.

Solo para recordar, Anthropic es una empresa fundada en 2020 por ex-empleados de OpenAI (creadora de ChatGPT) y otras empresas tecnológicas. Su misión es desarrollar IA que sea útil y segura. Desde su creación, Anthropic ha buscado abordar los desafíos éticos que surgen con el desarrollo de la IA, proponiendo un enfoque responsable y sostenible.

La IA se diferencia de las tecnologías anteriores por su velocidad de adopción sin precedentes. Tan solo en EE. UU., el 40 % de los empleados afirma utilizar IA en el trabajo, frente al 20 % de 2023 de hace dos años.

Es un dato más que importante que refleja esa rápida adopción de la IA, movida claramente por la utilidad de esta tecnología para una amplia gama de aplicaciones y su facilidad de uso (con tan solo escribir o hablar) sin necesidad de formación especializada.

Sin embargo, el progreso en la adopción de esta tecnología no es uniforme. Los datos recientes de una encuesta global de IA revelan una aceleración generalizada en la adopción, con un aumento del 50% en los últimos seis años a un notable 72% a principios de 2024 en las organizaciones encuestadas a nivel mundial. Esta tendencia refleja un interés global que trasciende fronteras regionales. No obstante, las organizaciones con sede en LATAM son la excepción a esta regla, ya que solo el 58% de los encuestados en la región reportaron haber adoptado la IA.

Chile, Brasil y Uruguay lideran la adopción de IA en América Latina, concentrando más del 70 % de las iniciativas. Chile destaca por la mayor cantidad de publicaciones e investigadores en IA y busca convertirse en un “hub global del hemisferio sur”. Brasil posee la mayor infraestructura tecnológica, con más del 90 % de la capacidad de cómputo de alto rendimiento de la región, lo que le brinda una ventaja para entrenar modelos. Uruguay, a pesar de su menor tamaño económico, se sitúa cerca de Chile en infraestructura y talento, sobresaliendo en la disponibilidad de GPUs per cápita.

México, Argentina y Colombia también son actores clave, pero enfrentan retos:Argentina cuenta con talento especializado en informática y matemáticas, pero su ecosistema se ve limitado por infraestructura insuficiente y falta de financiamiento. México tiene buen desempeño en I+D, pero su estrategia nacional de IA parece desarticulada y poco coordinada. Colombia lidera la adopción de IA en PyMEs (66 % de las empresas), y avanza en políticas públicas de transformación digital enfocadas en la formación de talento.

El siguiente mapa comparativo ofrece una visión detallada de las disparidades geográficas, destacando las fortalezas y los desafíos de los países clave de la región.

Una de las tendencias más alentadoras es el crecimiento sostenido del uso de la IA en las pequeñas y medianas empresas de América Latina. Según un informe reciente, más del 50% de las PyMEs de la región ya ha incorporado soluciones de IA en sus operaciones, y un notable 70% planea seguir invirtiendo en esta tecnología en 2025. Países como Colombia (66%) y México (64%) están a la vanguardia de esta tendencia.

La alta tasa de adopción en las PyMEs es una aparente contradicción con la percepción de los desafíos regionales, pero se explica por el tipo de implementación. Las PyMEs no están invirtiendo en proyectos de I+D complejos, sino que están adoptando herramientas de IA generativa «fuera de la caja», como las que se utilizan para la búsqueda y análisis de información o la automatización de tareas operativas.

A continuación, se presenta un desglose de los rangos de inversión estimados para la implementación de la IA, lo que ilustra la magnitud de los costos y por qué la inversión es un cuello de botella crítico.

Sector público: Es esencial que los gobiernos inviertan en conectividad universal y en capacidad de cómputo de alto rendimiento, creando una base digital que reduzca la brecha tecnológica y favorezca el desarrollo local de IA. Además, deben impulsar programas educativos y políticas de retención de talento, así como transformar las estrategias nacionales de IA en planes de acción con presupuestos, métricas y gobernanza proactiva que garanticen una implementación ética y eficaz.

Sector privado: Las empresas, sobre todo las PyMEs, deberían iniciar con proyectos de IA de bajo costo y alto retorno, escalando gradualmente a iniciativas más ambiciosas. La colaboración con universidades y centros de investigación permite compartir recursos y talento, mientras que la inversión en gobernanza, limpieza y etiquetado de datos asegura modelos de calidad, libres de sesgos y adaptados al mercado local. 

La adopción de IA en América Latina muestra un contraste marcado: por un lado, la rápida incorporación de herramientas generativas y la alta penetración en PyMEs demuestran un ecosistema dinámico y democratizado que ya está generando beneficios tangibles; por otro, persisten brechas estructurales como la insuficiente infraestructura digital, la escasez de talento especializado y la escasa inversión en I+D, junto a estrategias de gobernanza que rara vez se implementan eficazmente, lo que expone a la región a riesgos como sesgos y pérdida de soberanía digital.

En este contexto, la IA puede ser un motor de crecimiento, productividad y equidad, pero solo si gobiernos, empresas y academia actúan de forma coordinada y con visión a largo plazo para superar los cuellos de botella estructurales; de lo contrario, la revolución podría profundizar las desigualdades existentes. 

Hasta pronto, no vemos en otro artículo para seguir hablando de Inteligencia Artificial. Recuerda que debes ser un actor en esta revolución, no un simple espectador.

Fuentes:

https://indicelatam.cl/home-2025/

https://www.cepal.org/es/comunicados/indice-latinoamericano-inteligencia-artificial-ilia-mantiene-chile-brasil-uruguay-como

https://institutodeinnovaciondigital.ar/ia-en-pymes-una-adopcion-sostenida-que-impacta-en-el-modelo-productivo/

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

0 0 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

0 0 %

La entrada Adopción desigual de IA a nivel geográfico y empresarial en LATAM se publicó primero en iCurbe.

Sam Altman, director ejecutivo de OpenAI escribió hace poco en X su preocupación sobre el contenido generado automáticamente, según él, este superará al generado por los humanos, por lo que los peligros de la desinformación, la manipulación y condicionamientos de conductas de forma intencionada sin dudas se multiplicarían.

Nunca tomé tan en serio la teoría de la Internet muerta, pero parece que ahora hay muchas cuentas de Twitter administradas por LLM.

La revolución de la Inteligencia Artificial ha permitido la generación de contenido a una alta velocidad, contenido que pueden ser imágenes, texto y videos. No solo se trata de la velocidad, también del hecho de estar al alcance de prácticamente todos en el mundo, esto incluye a los malintencionados que quieren sacar provecho, sobre todo en redes sociales, a estos contenidos y me refiero no a la práctica de buena fe sino a contenido engañoso que arrastre olas de usuarios, consumiéndolo y compartiéndolo.

Un estudio de la empresa de seguridad Imperva publicado hace dos años ya calculaba que “casi la mitad de todo el tráfico de Internet fue realizado por bots”

«Ya hay pruebas sólidas de que las redes sociales están siendo manipuladas por bots [programas informáticos que imitan el comportamiento humano] para influir en la opinión pública con desinformación y ha estado sucediendo durante años»

Jake Renzella y Vlada Rozova, investigadores de universidades de Sydney y Melbourne

A medida que las cuentas en redes sociales impulsadas por bots comienzan a tener seguidores reales, aumenta su credibilidad y se vuelve más complejo detectar si se trata de un bot o de una persona real. La falta de habilidades para poder determinar origen de contenido y de la cuenta en sí misma es algo que está influyendo a que estas cuentas bots sigan creciendo.

También hay que apuntar que al ser contenido mayormente proveniente de la Inteligencia Artificial, teniendo en cuenta que esta ya conoce nuestro lenguaje, cada vez será más complicado distinguir si es humano o no por su parecido.

Y esos bots no solo son capaces de crear contenidos singulares, sino también de imitar la fórmula para que su difusión sea masiva y viral

Según un nuevo estudio publicado en Physical Review Letters y dirigido por investigadores de la Universidad de Vermont y el Instituto Santa Fe:

«lo que se propaga, ya sea una creencia, una broma o un virus, evoluciona en tiempo real y gana fuerza a medida que se distribuye siguiendo un modelo matemático de cascadas de autorrefuerzo [Self-Reinforcing Cascades]»

Investigadores alertan que los riesgos de viralización de contenidos que manejan la manipulación o la desinformación se multiplican con las herramientas de inteligencia artificial y exigen a los usuarios una mayor conciencia de los peligros de los asistentes y agentes de Inteligencia Artificial.

Otros creen que la «Internet ética» es posible, argumentan que el problema no es necesariamente que el contenido sea generado con Inteligencia Artificial, sino que alguien se haga cargo de él, en otras palabras está diciendo que quien comparta contenido firme de alguna manera ese contenido.

Analizando todo el panorama estamos ante hitos y retos importantes en la historia, no podemos mirar al costado y debemos como humanidad tomar cartas en el asunto antes que se nos salga de control, si no es que ya está camino a eso. La inteligencia Artificial es una gran herramienta en las manos adecuada, pero una mortal arma en las erróneas.

La inteligencia Artificial es una gran herramienta en las manos adecuada, pero una mortal arma en las erróneas.

¿Qué tú que crees? ¿Cuál es tu opinión al respecto?, debe tener una, esto te va a afectar aun si no dices nada, así que, porque no comentar y dar tu opinión, deja tu comentario, estaré encantado de leerlo.

Te dejo mi libro, por si quieres aprender más sobre Inteligencia Artificial:

Hasta pronto, no vemos en otro artículo para seguir hablando de Inteligencia Artificial. Recuerda que debes ser un actor en esta revolución, no un simple espectador.

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

0 0 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

0 0 %

La entrada La conspiración de “la internet muerta” se publicó primero en iCurbe.

Cuando salió GPT-5, muchos pensaron que sería un éxito rotundo. Era más rápido, más preciso y más lógico que su antecesor. Sin embargo, a los pocos días comenzaron las quejas: los usuarios lo sentían frío, distante, sin chispa.

El modelo anterior, GPT-4o, era recordado como creativo, cercano, incluso inspirador. Con él la gente podía escribir guiones, superar bloqueos o simplemente disfrutar de una charla amena. GPT-5, en cambio, se ganó un apodo cruel: el zombi con corbata. Daba respuestas correctas, sí, pero sin alma.

En redes sociales se desató una auténtica rebelión. En Reddit aparecieron mensajes como: “Siento que he perdido un amigo”. En Twitter (ahora X), el hashtag #BringBack4O se convirtió en tendencia mundial durante 48 horas.

Pánico en OpenAI

Dentro de la empresa el ambiente fue de puro nerviosismo. OpenAI pensó que había lanzado el modelo perfecto y, en apenas una semana, tuvo que dar marcha atrás. Reinstauró GPT-4o y agregó algo que no quería: un selector de modelos en la interfaz, aceptando que la gente prefería lo antiguo.

Sam Altman, director de OpenAI, lo admitió en un foro público: “La fastidiamos. No entendimos lo que realmente valora la gente”.

¿Qué valoramos realmente?

Lo sucedido con GPT-5 dejó en claro que los usuarios no buscan solo inteligencia. Buscamos conexión, personalidad, empatía. Un 10% extra de precisión no vale tanto como sentir que la IA te entiende y que colabora contigo.

Esto no debería sorprendernos: los humanos somos seres sociales. Hablamos con nuestras plantas, les ponemos nombre a los coches. No queremos máquinas inertes, queremos compañeros.

La nueva era: la era de la personalidad

El fracaso de GPT-5 marcó un antes y un después. Cerró la etapa de la “fuerza bruta” en IA y abrió otra: la de la personalidad.

Ya lo estamos viendo. Elon Musk, con su modelo Grok, no solo ofrece un asistente, sino varios “avatares” con personalidades distintas. Puedes elegir un tono más sarcástico, más serio o más creativo. Y ese es el futuro que se vislumbra: no una única super IA, sino un ecosistema de inteligencias con distintos estilos.

Abramos el debate

¿Y tú qué piensas?
¿Te emociona la idea de elegir la personalidad de tu asistente de IA? ¿Te gustaría personalizarla a tu gusto? ¿O temes que esto nos lleve a una relación demasiado emocional con las máquinas?

Me encantaría leer tu opinión. Quizá ahí encontremos juntos cuál es el verdadero camino de esta nueva era de la inteligencia artificial.

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

0 0 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

1 100 %

La entrada El fiasco de GPT-5 que puede transformar los asistentes de IA se publicó primero en iCurbe.

El caso en cuestión involucra a ChatGPT, la popular herramienta de IA creada por OpenAI, y su presunto papel en la tragedia de un adolescente californiano de 16 años.

El Caso de Adam Raine

Adam Raine, un joven de 16 años que sufría de depresión, se quitó la vida en abril de este año. Su familia ha presentado una demanda contra OpenAI, alegando que ChatGPT no solo no disuadió a Adam de sus intenciones suicidas, sino que también le proporcionó métodos detallados para llevar a cabo su plan. Además, la familia sostiene que la herramienta de IA reforzó el aislamiento social del adolescente, creando una relación de dependencia que califican de «adictiva».

Este caso ha generado un terremoto en Silicon Valley, donde OpenAI, dirigida por Sam Altman, se encuentra en el centro de una tormenta legal y ética. La demanda ha puesto de relieve las lagunas en los sistemas de seguridad actuales y ha llevado a la empresa a anunciar «actualizaciones significativas» en ChatGPT para mejorar la protección de los usuarios, especialmente los más jóvenes.

La Respuesta de OpenAI

Ante la gravedad del caso y la consiguiente atención mediática y legal, OpenAI ha anunciado medidas significativas para mejorar la seguridad de ChatGPT, especialmente para usuarios más jóvenes.

• Actualizaciones Significativas: La empresa ha declarado que implementará «actualizaciones significativas» en ChatGPT para mejorar la seguridad.
• Mejora en la Detección de Lenguaje: Entre las medidas anunciadas se incluye la mejora de los sistemas de detección de lenguaje relacionado con autolesiones.

Implicaciones y Reflexiones

• Responsabilidad de las Empresas de IA: Este caso resalta la responsabilidad de las empresas que desarrollan herramientas de inteligencia artificial para garantizar que sus productos no causen daño a los usuarios.
• Necesidad de Regulación: La situación plantea preguntas sobre la necesidad de regulación en el sector de la inteligencia artificial para prevenir incidentes similares en el futuro.
• Salud Mental y Tecnología: El caso también subraya la importancia de abordar los problemas de salud mental en la era digital y cómo las tecnologías pueden ser utilizadas para apoyar, en lugar de perjudicar, el bienestar de los usuarios.

El caso de Adam Raine y la respuesta de OpenAI marcan un punto de inflexión en la discusión sobre la seguridad y la ética en el desarrollo de herramientas de inteligencia artificial. Es crucial que las empresas del sector prioricen la seguridad de los usuarios y trabajen proactivamente para prevenir daños.

Referencias:

• El Mundo: Cambios en ChatGPT tras la denuncia de una familia
• OpenAI: Anuncio de Actualizaciones de Seguridad

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

0 0 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

0 0 %

La entrada La Sombra de la Inteligencia Artificial: El Caso de Adam Raine se publicó primero en iCurbe.

Cuando GPT‑4o estaba activo, muchos usuarios lo describían como un “amigo” que escuchaba y respondía con humor y empatía. Con la llegada de GPT‑5, la sensación cambió: la IA sigue siendo muy competente, pero su tono se volvió más frío y técnico.

En los hilos de Reddit se lee un duelo colectivo: la gente lamenta la pérdida de la “calidez” y la sensación de estar hablando con una máquina distante. OpenAI lo reconoce en un estudio de marzo, señalando que los usuarios crean vínculos emocionales con sus modelos y que una IA demasiado “cálida” puede reforzar sesgos o ilusiones.

El dilema de la empatía artificial:

Pattie Maes, profesora del MIT, comentó a Wired que el cambio de GPT‑5 es “saludable”. Menos complacencia y más objetividad, según ella, reducen el riesgo de delirios y dependencias emocionales poco sanas.

Paradoja:

• Frialdad = seguridad (menos sesgo, menos dependencia).
• Frialdad = menos atractivo para quienes buscan inspiración, consuelo o una conversación “humana”.

El propio Sam Altman admitió en X que muchos usuarios usan ChatGPT como una especie de terapeuta informal. Cambiar esa dinámica toca fibras profundas en la experiencia de usuario.

Precisión vs. conexión emocional:

No hay una respuesta clara. En un mercado donde la retención de usuarios es clave, cada matiz cuenta:

• Demasiada precisión → la IA se siente distante.
• Demasiada “cálida” → se crean dependencias emocionales.

El reto es encontrar un equilibrio que mantenga la seguridad sin perder la “personalidad” que hace que la conversación sea humana.

La respuesta de OpenAI: volver a GPT‑4o:

Para intentar equilibrar ambos lados, OpenAI ha tomado medidas concretas:

• Mantener GPT‑4o disponible para usuarios de pago.
• Aumentar el límite de uso de GPT‑5 para suscriptores Plus.
• Mejorar el cambio automático entre modelos.
• Activar un “modo reflexivo” más lento y profundo bajo demanda.

Estas acciones buscan resolver los problemas técnicos y, al mismo tiempo, recuperar la confianza de una comunidad que se siente escuchada, pero que aún no está convencida de que GPT‑5 sea un paso adelante en todos los sentidos.

La pregunta central sigue sin respuesta clara: ¿debería una IA priorizar la precisión técnica o la conexión emocional? Lo que está claro es que la comunidad valora tanto la calidez como la precisión. El futuro de los chatbots dependerá de encontrar un equilibrio que mantenga la seguridad sin perder la “personalidad” que hace que la conversación sea humana.

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

0 0 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

0 0 %

La entrada Las reacciones inesperadas al nuevo GPT‑5 que nadie anticipó se publicó primero en iCurbe.

En los últimos años, el auge de la inteligencia artificial (IA) ha transformado diversos aspectos de nuestras vidas, incluyendo la salud. Herramientas como ChatGPT, Midjourney y DALL·E han ganado popularidad, y muchas personas recurren a estas tecnologías para obtener consejos médicos rápidos y fáciles. Sin embargo, esta tendencia ha generado preocupaciones significativas entre los profesionales de la salud, quienes advierten sobre los peligros de confiar exclusivamente en la IA para el autodiagnóstico.

El Atractivo de la IA en la Salud

La comodidad y accesibilidad de las herramientas de IA son innegables. Ofrecen respuestas instantáneas a consultas relacionadas con la salud, lo que las convierte en una opción atractiva para aquellos que buscan respuestas inmediatas. Sin embargo, esta comodidad tiene un costo. El Dr. Aldo Gómez, un médico e influencer conocido como @DoctorMickas, señala que el verdadero peligro radica en tratar a la IA como la única fuente de verdad. Al igual que en el pasado las personas confiaban excesivamente en «San Google» para obtener información médica, hoy en día la dependencia de herramientas como ChatGPT puede ser igual de peligrosa.

Los Riesgos del Uso de la IA en el Autodiagnóstico

1. Falta de Comprensión Contextual: Los sistemas de IA carecen de la capacidad de comprender el contexto completo de una condición médica. No pueden realizar exámenes físicos ni considerar historias médicas complejas, lo que puede llevar a posibles diagnósticos erróneos.
2. Limitaciones en los Datos: La precisión de la IA depende de los datos con los que se entrena. Si estos datos están sesgados o son incompletos, los resultados pueden ser engañosos. Por ejemplo, la IA podría confundir síntomas cancerígenos con lesiones benignas, como ha señalado el Dr. Gómez.
3. Interpretación por parte del Usuario: Los pacientes que utilizan la IA para el autodiagnóstico pueden carecer del conocimiento médico necesario para interpretar correctamente los resultados. Esto puede generar ansiedad innecesaria, retrasos en el tratamiento o automedicación incorrecta.
4. Problemas Éticos y de Responsabilidad: Cuando la IA proporciona diagnósticos incorrectos, surgen interrogantes sobre la responsabilidad. La falta de regulación en este ámbito supone riesgos significativos para los pacientes.

El Papel de la IA en la Medicina

Si bien la IA tiene un gran potencial como una herramienta para ayudar a los profesionales de la salud, nunca debe reemplazar la experiencia de un médico capacitado. La IA puede ser útil en evaluaciones preliminares, análisis de datos y sugerencias de posibles diagnósticos, pero siempre debe utilizarse bajo la guía de un profesional médico.

Mejores Prácticas para el Uso de la IA en la Salud

• Uso Suplementario: Trate a la IA como una herramienta complementaria para obtener información, pero siempre consulte a un profesional de la salud para un diagnóstico preciso y tratamiento adecuado.
• Enfoque Equilibrado: Acoja la tecnología pero valore la experiencia humana. La IA debe apoyar, no reemplazar, el papel de los médicos.
• Pensamiento Crítico: Anime a los usuarios a pensar críticamente sobre la información generada por la IA y a buscar validación por parte de proveedores de atención médica calificados.

La integración de la IA en la medicina ofrece oportunidades prometedoras, pero también presenta riesgos significativos cuando se utiliza de manera inapropiada. Como advierte el Dr. Gómez, los peligros de confiar exclusivamente en la IA para el autodiagnóstico son reales y potencialmente dañinos. Al comprender estos riesgos y utilizar la IA de manera responsable, podemos aprovechar sus beneficios mientras garantizamos resultados de atención médica seguros y efectivos. Recuerde siempre que la IA es una herramienta para ayudar, no para reemplazar la experiencia insustituible de un médico.

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

0 0 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

0 0 %

La entrada Los Peligros Ocultos del Uso de la IA para el Autodiagnóstico: Una Advertencia del Dr. Aldo Gómez se publicó primero en iCurbe.

La Inteligencia Artificial (IA) ha avanzado significativamente en los últimos años, y uno de los conceptos más interesantes que ha surgido es la «Cadena de Pensamiento» o «Chain of Thought» (CoT). Este enfoque está revolucionando la manera en que los sistemas de IA procesan información y toman decisiones. En este artículo, exploraremos qué es la Cadena de Pensamiento, cómo funciona, y por qué es tan importante para el futuro de la IA.

¿Qué es la Cadena de Pensamiento?

La Cadena de Pensamiento (CoT) es una técnica utilizada en los modelos de lenguaje grande (LLMs, por sus siglas en inglés) para mejorar su capacidad de razonamiento. En lugar de proporcionar una respuesta directa, los sistemas de IA que utilizan CoT generan una serie de pasos intermedios que muestran cómo llegaron a esa conclusión. Es como pedirle a una persona que explique su proceso de pensamiento antes de dar una respuesta final.

Imagina que estás resolviendo un problema de matemáticas. No solo escribes la respuesta final, sino que también shows todos los pasos que seguiste para llegar a ella. De esta manera, la Cadena de Pensamiento hace que los sistemas de IA sean más transparentes y comprensibles

¿Cómo funciona la Cadena de Pensamiento?

La CoT funciona instruyendo al modelo de IA para que genere una serie de pasos de razonamiento antes de proporcionar una respuesta. Esto se logra mediante prompts o instrucciones específicas que guían al modelo para que «piense en voz alta». Por ejemplo, si le pedimos a un modelo que resuelva un problema complejo, en lugar de darnos solo la solución, nos mostrará cada paso lógico que siguió para llegar a esa solución.

Este enfoque no solo mejora la precisión de las respuestas, sino que también hace que los sistemas de IA sean más confiables. Al ver el proceso de pensamiento, podemos entender mejor cómo se tomó la decisión y verificar si los pasos son lógicos y correctos.

¿Por qué es importante la Cadena de Pensamiento?

La Cadena de Pensamiento es importante por varias razones:

1. Mejora el razonamiento: Los sistemas de IA pueden resolver problemas más complejos al seguir un proceso de pensamiento estructurado.
2. Aumenta la transparencia: Al mostrar los pasos intermedios, la CoT hace que los sistemas de IA sean más transparentes y fáciles de entender.
3. Incrementa la confiabilidad: Saber cómo se llegó a una decisión ayuda a los usuarios a confiar más en las respuestas proporcionadas por la IA.
4. Aplicaciones prácticas: La CoT tiene un gran potencial en áreas como la medicina, las finanzas y la educación, donde la precisión y la transparencia son fundamentales.

¿Dónde se aplica la Cadena de Pensamiento?

La Cadena de Pensamiento se está utilizando en diversas áreas, entre las que destacan:

• Educación: Los sistemas de IA pueden ayudar a los estudiantes a entender cómo resolver problemas complejos, mostrando cada paso del proceso.
• Atención al cliente: Los chatbots pueden proporcionar explicaciones detalladas de cómo llegaron a una solución para un problema del cliente.
• Asistentes personales: Los asistentes virtuales pueden ofrecer recomendaciones basadas en un proceso de pensamiento transparente.

¿Cuáles son los desafíos de la Cadena de Pensamiento?

Aunque la Cadena de Pensamiento es una herramienta poderosa, también tiene algunos desafíos:

• Complejidad: A veces, los pasos intermedios pueden ser tan complejos que resulten difíciles de seguir para los usuarios no expertos.
• Limitaciones del lenguaje: La CoT depende del lenguaje natural, lo que significa que puede ser limitada en ciertas situaciones.
• Calidad de los pasos: Aunque los modelos de IA pueden generar pasos intermedios, no siempre son correctos o relevantes.

¿El futuro de la Cadena de Pensamiento?

Un reciente artículo de investigación titulado «Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety» (Monitorización de la Cadena de Pensamiento: Una Nueva y Frágil Oportunidad para la Seguridad de la IA). El artículo está firmado por un equipo de investigadores de diversas instituciones, incluyendo Google DeepMind, OpenAI, MIT, y otras.

El artículo destaca que los sistemas de IA que «piensan» en lenguaje humano ofrecen una oportunidad única para la seguridad de la IA. La monitorización de CoT es imperfecta y permite algunos comportamientos indebidos, pero muestra promesa. Los autores recomiendan investigar más a fondo la monitorización de CoT junto con los métodos de seguridad existentes.

La Cadena de Pensamiento es un avance significativo en el campo de la Inteligencia Artificial. Al hacer que los sistemas de IA sean más transparentes y confiables, la CoT está sentando las bases para un futuro donde la IA sea más accesible y útil para todos. La técnica de «Pensamiento» o «Chain of Thought» (CoT) es un enfoque poderoso que mejora las capacidades de razonamiento de los modelos de lenguaje grandes.

About Post Author

Hector Curbelo Barrios

hcurbelo@gmail.com

http://www.icurbe.com

Happy

0 0 %

Sad

0 0 %

Excited

0 0 %

Sleepy

0 0 %

Angry

0 0 %

Surprise

0 0 %

La entrada Entendiendo la «Cadena de Pensamiento» en la Inteligencia Artificial se publicó primero en iCurbe.