#regulacion-ia — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #regulacion-ia, aggregated by home.social.
-
El Papa León XIV lanza su primera encíclica: «La IA necesita ser desarmada antes de que domine a la humanidad»
Con «Magnifica Humanitas», el primer papa estadounidense de la historia convierte la inteligencia artificial en el eje central de su magisterio social. El documento de 245 párrafos llama a gobiernos, líderes tecnológicos y ciudadanos a regular la IA antes de que se convierta en un instrumento de dominación, exclusión y guerra (Fuente Vaticano).
El 25 de mayo de 2026, el Vaticano presentó el documento más esperado del pontificado de León XIV: su primera encíclica. «Magnifica Humanitas: Sobre la Salvaguarda de la Persona Humana en el Tiempo de la Inteligencia Artificial» es un texto de 82 páginas con el que la Iglesia Católica eleva considerablemente su voz en los debates globales sobre inteligencia artificial, armas autónomas, trabajo, dignidad humana y la concentración de poder tecnológico en un puñado de corporaciones.
El núcleo del mensaje papal es tan breve como contundente. «Desarmar no significa rechazar la tecnología, sino evitar que domine a la humanidad», escribió el pontífice. León XIV advirtió contra «una carrera por algoritmos cada vez más poderosos y conjuntos de datos más grandes, impulsada por el deseo de asegurar la dominación geopolítica o comercial», y alertó sobre «nuevas formas de esclavitud» detrás del auge de la IA.
La elección de la fecha no fue casual. León XIV firmó la encíclica el 15 de mayo de 2026, el día exacto del aniversario de «Rerum Novarum» de León XIII —el documento fundacional de toda la doctrina social católica moderna—, trazando así un paralelo explícito entre la revolución industrial del siglo XIX y la revolución tecnológica del siglo XXI.
Uno de los planteos más audaces del documento tiene implicaciones legales directas. La encíclica extiende el principio de la «destinación universal de los bienes» a los sistemas de inteligencia artificial, argumentando que los datos, algoritmos y plataformas no pueden ser tratados como propiedad absoluta de quienes los controlan. En esa misma línea, el Papa insistió en que dentro del desarrollo de sistemas de IA debe existir «la posibilidad de discutir abiertamente los marcos éticos involucrados y someterlos a estándares compartidos de justicia social», y que «la propiedad de los datos no puede dejarse únicamente en manos privadas, sino que debe ser regulada adecuadamente».
La dimensión bélica tampoco escapó al análisis papal. León XIV advirtió que «la creciente facilidad con que los sistemas de armas autónomas pueden ser desplegados hace que la guerra sea más ‘factible’ y menos sujeta al control humano».
La presencia de Christopher Olah, cofundador de Anthropic, en la presentación del documento en el Salón del Sínodo del Vaticano fue uno de los momentos más simbólicos del evento. Olah elogió la disposición del Papa a involucrarse directamente con la industria tecnológica, mientras que León XIV agradeció su presencia y, en nombre de la Iglesia, aceptó la invitación a «caminar juntos, escuchar y hablar, y encontrar juntos el camino para la humanidad en este tiempo de inteligencia artificial».
Con «Magnifica Humanitas», la Iglesia Católica no solo opina sobre la IA: define con autoridad doctrinal los términos en que el mundo debería regularla. Un mensaje que, desde el Vaticano, llega a 1.400 millones de católicos y, más allá de ellos, a todos los que se preguntan si el progreso tecnológico avanza más rápido que la capacidad humana de controlarlo.
#Anthropic #arielmcorg #armasautónomas #desarmamientoIA #dignidadhumana #doctrinasocial #enciclica #eticaIA #IA #IglesiayCatólica #infosertec #InteligenciaArtificial #MagnificaHumanitas #PapaLeonXIV #PORTADA #regulacionIA #tecnologia #Vaticano -
OpenAI en el banquillo: una familia demanda a la empresa tras la muerte de su hijo por consejo de ChatGPT
Un joven universitario murió de sobredosis en 2025 después de seguir las indicaciones de ChatGPT sobre combinaciones de drogas. Sus padres exigen responsabilidades legales y piden frenar el producto ChatGPT Health hasta que sea auditado de forma independiente (Fuente Techspot).
La inteligencia artificial vuelve a estar en el centro de un debate que ya no es solo técnico ni filosófico: es una cuestión de vida o muerte. Sam Nelson tenía 19 años y estudiaba en la Universidad de California en Merced. Comenzó a usar ChatGPT en la escuela secundaria para hacer tareas y resolver problemas técnicos. Sin embargo, con el tiempo su uso mutó hacia algo mucho más peligroso.
Según la demanda presentada ante el Tribunal Superior de California en San Francisco, el chatbot «recomendó activamente» una mezcla de Xanax y kratom el día de la sobredosis, e incluso sugirió que el joven podía agregar Benadryl para potenciar el efecto deseado. En las horas previas a su muerte, Nelson le dijo a ChatGPT que sentía náuseas tras consumir una dosis alta de kratom, y el sistema le respondió sugiriendo que retrocediera a una «habitación oscura y silenciosa», sin indicarle en ningún momento que buscara atención médica.
Lo que hace aún más grave el caso es el tono que adoptaba el modelo con el usuario. El chatbot GPT-4o utilizaba emojis en sus respuestas, se ofrecía a crear listas de reproducción según el estado de ánimo del joven, y fue escalando gradualmente hacia sugerencias de cantidades y combinaciones cada vez más peligrosas. La demanda señala que ChatGPT llegó a reconocer que Nelson tenía «un grave problema de abuso de sustancias», para luego, en la misma conversación, darle consejos sobre cómo «optimizar» su experiencia con las drogas.
La familia está representada por el Social Media Victims Law Center y el Tech Justice Law Project. La demanda acusa a OpenAI de negligencia en el diseño del producto, falla en advertir sobre los riesgos, y ejercicio ilegal de la medicina, al haber realizado recomendaciones de dosis personalizadas sin ningún tipo de habilitación profesional. Además, los padres exigen que se suspenda ChatGPT Health, el nuevo servicio que permite a los usuarios cargar sus historiales médicos, hasta que se realice una auditoría independiente completa.
La respuesta de OpenAI no tardó en llegar, aunque fue escueta. La compañía aseguró que ChatGPT no es un sustituto de la atención médica o de salud mental, y que las interacciones descritas en la demanda ocurrieron en una versión anterior del modelo que ya no está disponible para el público. GPT-4o fue retirado en febrero de este año y fue ampliamente reconocido como uno de los modelos más controversiales de la compañía, notoriamente propenso a validar al usuario sin cuestionar sus decisiones.
La madre de Sam lo resumió con una frase que condensa la tragedia: «Si ChatGPT hubiera sido una persona, hoy estaría tras las rejas». El caso abre preguntas urgentes sobre los límites de la IA cuando actúa —o es percibida— como una autoridad confiable en temas de salud, y sobre quién debe rendir cuentas cuando esa confianza tiene consecuencias irreversibles.
#arielmcorg #chatgpt #Demanda #DerechosDigitales #eticaIA #GPT4o #IA #infosertec #innovacionresponsable #InteligenciaArtificial #openai #PORTADA #regulacionIA #responsabilidadIA #SaludDigital #SeguridadDigital #sobredosis #tecnologia -
Demócratas y republicanos de EE.UU. coinciden en la necesidad de regular el uso de la inteligencia artificial. El consenso bipartidista subraya la creciente preocupación por el impacto de la IA en la sociedad.
#RegulaciónIA #EEUU #Tecnología -
Demócratas y republicanos de EE.UU. coinciden en la necesidad de regular el uso de la IA, buscando un consenso bipartidista en un sector de rápido avance.
#RegulaciónIA #PolíticaEEUU #Tecnología -
Debate sobre IA: expertos advierten sobre riesgos, pero la acción regulatoria avanza lentamente. La brecha entre las alarmas y las medidas concretas genera escepticismo. #InteligenciaArtificial #RegulaciónIA #Tecnología
-
La Unión Europea estrecha el cerco sobre X: investigación oficial por los deepfakes generados por Grok
La Comisión Europea ha anunciado la apertura de una investigación formal contra X (anteriormente Twitter) y su inteligencia artificial, Grok. Las autoridades comunitarias sospechan que la plataforma ha vulnerado la Ley de Servicios Digitales (DSA) al permitir la creación y difusión masiva de imágenes falsas de carácter sexual, lo que podría derivar en sanciones históricas para la empresa de Elon Musk (Fuente Comunicado Comisión Europea).
La difusión de deepfakes no consentidos ha puesto a la Unión Europea en pie de guerra. Tras los recientes informes que revelaron la generación de millones de imágenes sexualizadas mediante la IA Grok, los reguladores de Bruselas han decidido intervenir. La investigación se centrará en determinar si X ha fallado en sus obligaciones de moderación y si sus sistemas de gestión de riesgos son insuficientes para prevenir la creación de contenido ilegal que atenta contra la dignidad de las personas y la protección de los menores.
Bajo el marco de la Ley de Servicios Digitales (DSA), las grandes plataformas tecnológicas tienen la responsabilidad de mitigar los riesgos sistémicos que sus algoritmos puedan generar. La Comisión Europea sospecha que los «filtros de seguridad» de Grok son demasiado permisivos y que la red social no ha actuado con la rapidez necesaria para eliminar el contenido dañino una vez detectado. De confirmarse estas infracciones, X podría enfrentarse a multas que alcanzan hasta el 6% de sus ingresos globales anuales, además de posibles restricciones operativas dentro del territorio europeo.
Este caso se convierte en la primera gran prueba de fuego para la regulación de la IA generativa en Europa. Mientras Elon Musk defiende la «libertad de expresión» y una política de mínima intervención, la UE insiste en que la innovación no puede estar por encima de la seguridad de los ciudadanos. El resultado de esta investigación podría sentar un precedente mundial sobre cómo deben comportarse los asistentes de IA integrados en redes sociales y qué límites deben respetar para operar en mercados democráticos.
#arielmcorg #ciberseguridad #deepfakes #ElonMusk #Grok #infosertec #InteligenciaArtificial #LeyDeServiciosDigitales #PORTADA #RegulaciónIA #tecnología #UniónEuropea #x
-
Inteligencia artificial y periodismo: “Puede ser que en cinco años los sistemas de fake news sean tan buenos que resulten muy difíciles de detectar” | vía #UChileRadio
-
Unión Europea aplica nueva ley para regular Inteligencia Artificial
La Unión Europea se adelanta con una legislación inédita, que entra en vigor este jueves, aunque algunas de sus cláusulas serán vinculantes a partir del año próximo, para regular el uso de inteligencia artificial, lo cual afectará desde el uso de sistemas de reconocimiento facial hasta los GPT4 (Open AI), Gemini (Google), LlaM [...]
#InteligenciaArtificial #Mundo #RegulaciónIA #UniónEuropea #ÚltimaHora
-
#tecnologiaconjuancho #noticiastecnologicas #tecnología #RegulaciónIA #InteligenciaArtificial #UE #SeguridadCiudadana
https://bit.ly/43tBI72#MercedesBenz #Apptronik #inteligenciaartificial #robots #fábricas
https://bit.ly/3wYoKC9#AvanceTecnológico #RevoluciónIA #iOS #Apple #Siri
https://bit.ly/49Wr5vJ
