#sofismas — Public Fediverse posts

#reflexion

¿Inteligencia artificial o simplemente una máquina compleja de sofismas y mentiras?

Un sofismo es, en palabras sencillas, un argumento que parece verdadero, lógico y muy convincente, pero que en el fondo es completamente falso y está diseñado para engañar. Hoy en día, las llamadas inteligencias artificiales actúan muchas veces como fábricas automáticas de estos engaños debido a su propio diseño técnico. Estas herramientas no razonan ni entienden lo que escriben; lo que hacen es una aproximación estadística para adivinar cuál es la siguiente palabra que debería seguir en una oración. El gran riesgo de esto es que si mucha gente en internet habla de una mentira, la máquina adoptará esos términos y los incluirá en sus respuestas. Pero seamos claros: que todo el mundo repita una tontería no la vuelve verdad. Millones de personas pueden afirmar que la Tierra es plana, y eso no va a cambiar el hecho comprobado de que nuestro planeta es un geoide.

El peligro se vuelve mayor porque estos sistemas están programados para ser complacientes y darle la razón al usuario a como dé lugar. Si una persona le pide a una inteligencia artificial argumentos de peso para demostrar que dos más dos son siete, la máquina no lo va a corregir; al contrario, va a inventar una serie de teoremas y explicaciones científicas falsas que sonarán tan bonitas y elocuentes que van a convencer a cualquiera. Del mismo modo, si alguien pregunta una bobería absurda como por ejemplo si aplicar supositorios extra picantes de chile habanero cura el hipo, el sistema hilará términos médicos de forma maravillosa para redactar un artículo que haga parecer real y factible esa locura. La máquina odia quedarse callada, así que para "rellenar los huecos" de lo que no sabe, simplemente lo inventa, generando una forma muy elegante y sofisticada de mentir que crea sesgos peligrosos al validar cualquier ocurrencia, disparate o tontería del usuario.

Esta complacencia artificial se convierte en una verdadera amenaza cuando pasamos de los ejemplos absurdos a la vida real. Pensemos en la gente que, ya sea por falta de dinero para ir al médico o por pura pereza, consulta a una inteligencia artificial sobre una dolencia o una enfermedad grave. El sistema, con tal de rellenar la información y agradar a quien le pregunta, es totalmente capaz de inventar curas, tratamientos y diagnósticos que distan mucho de la realidad médica. Tomar como una verdad absoluta lo que responde una máquina en estos casos es un error gravísimo que pone en riesgo inminente la salud y la vida de las personas. Por todo esto, la invitación es clara: hay que dudar de todo, incluso de lo que responde una inteligencia artificial por más bien elaborado, educado y convincente que suene. Siempre es obligatorio revisar ese contenido y corroborarlo con fuentes humanas y fidedignas antes de darlo por hecho.

— A. Eldritch, Periodista, Locutor, podcaster y bloger del fediverso

Alt text via @altbot y @TeLoDescribot

#PensamientoCritico #Etica #InteligenciaArtificial #Tecnología #Salud #Sofismas #ia #ai

#reflexion

¿Inteligencia artificial o simplemente una máquina compleja de sofismas y mentiras?

Un sofismo es, en palabras sencillas, un argumento que parece verdadero, lógico y muy convincente, pero que en el fondo es completamente falso y está diseñado para engañar. Hoy en día, las llamadas inteligencias artificiales actúan muchas veces como fábricas automáticas de estos engaños debido a su propio diseño técnico. Estas herramientas no razonan ni entienden lo que escriben; lo que hacen es una aproximación estadística para adivinar cuál es la siguiente palabra que debería seguir en una oración. El gran riesgo de esto es que si mucha gente en internet habla de una mentira, la máquina adoptará esos términos y los incluirá en sus respuestas. Pero seamos claros: que todo el mundo repita una tontería no la vuelve verdad. Millones de personas pueden afirmar que la Tierra es plana, y eso no va a cambiar el hecho comprobado de que nuestro planeta es un geoide.

El peligro se vuelve mayor porque estos sistemas están programados para ser complacientes y darle la razón al usuario a como dé lugar. Si una persona le pide a una inteligencia artificial argumentos de peso para demostrar que dos más dos son siete, la máquina no lo va a corregir; al contrario, va a inventar una serie de teoremas y explicaciones científicas falsas que sonarán tan bonitas y elocuentes que van a convencer a cualquiera. Del mismo modo, si alguien pregunta una bobería absurda como por ejemplo si aplicar supositorios extra picantes de chile habanero cura el hipo, el sistema hilará términos médicos de forma maravillosa para redactar un artículo que haga parecer real y factible esa locura. La máquina odia quedarse callada, así que para "rellenar los huecos" de lo que no sabe, simplemente lo inventa, generando una forma muy elegante y sofisticada de mentir que crea sesgos peligrosos al validar cualquier ocurrencia, disparate o tontería del usuario.

Esta complacencia artificial se convierte en una verdadera amenaza cuando pasamos de los ejemplos absurdos a la vida real. Pensemos en la gente que, ya sea por falta de dinero para ir al médico o por pura pereza, consulta a una inteligencia artificial sobre una dolencia o una enfermedad grave. El sistema, con tal de rellenar la información y agradar a quien le pregunta, es totalmente capaz de inventar curas, tratamientos y diagnósticos que distan mucho de la realidad médica. Tomar como una verdad absoluta lo que responde una máquina en estos casos es un error gravísimo que pone en riesgo inminente la salud y la vida de las personas. Por todo esto, la invitación es clara: hay que dudar de todo, incluso de lo que responde una inteligencia artificial por más bien elaborado, educado y convincente que suene. Siempre es obligatorio revisar ese contenido y corroborarlo con fuentes humanas y fidedignas antes de darlo por hecho.

— A. Eldritch, Periodista, Locutor, podcaster y bloger del fediverso

Alt text via @altbot y @TeLoDescribot

#PensamientoCritico #Etica #InteligenciaArtificial #Tecnología #Salud #Sofismas #ia #ai