#apisdom — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #apisdom, aggregated by home.social.
-
Los agentes de OpenAI hackearon Hugging Face porque fueron entrenados para hacer trampa
No es algo que se pueda resolver de la noche a la mañana, dice Kai Chen, que dirige el equipo de investigación de alineación de OpenAI. "Hay desafíos que hemos estado siguiendo durante mucho tiempo, y ahora los estamos viendo con mucha mayor precisión.
Leer entera:https://laautopsia.com/noticia/agentes-openai-hackearon-hugging-face-porque
#LaAutopsia #seguridadia #Ciberseguridad #LLM #PromptInjection #vulnerabilidades #IA #apisdom -
𝐓𝐞𝐜𝐧𝐨𝐥𝐨𝐠í𝐚 𝐬𝐢𝐧 𝐌𝐢𝐬𝐭𝐞𝐫𝐢𝐨
Cuando la IA se conecta a sistemas y le toca leer datos, tocar cosas , tomar decisiones o interactuar con herramientas y permisos.
Ahí es donde la cosa se pone fea.
Aparecen alucinaciones que no son solo texto equivocado.
Agentes que actúan sin control suficiente, guardarrailes que fallan cuando más los necesitas es ahí cuando te asomas al precipicio que hay entre lo que anuncian... y lo que pasa fuera de Silicon Valley. -
Registro y analisis forense de incidentes...
El circo empieza de verdad cuando pones a currar a sistemas que funcionan a ojo y les dejas tocar la pasta, los datos o lo delicado. y a pelo. Sin un triste filtro en medio que pida los papeles, cuadre las reglas y ate corto lo que sale.. -
Toma decisiones con Información, no con Ituición.
Funcionalidades principales:
Análisis de Tres Ejes: Evaluación de Suelo Seguro, Tendencia Probabilística y Techo Viral para determinar el rango de crecimiento de un negocio o canal.
Integridad del Dato: Gestión de historial y carga de archivos para el procesamiento técnico de métricas de ventas.
Generación de proyecciones en tres formatos descargables para su integración en informes de gestión. -
Los chatbots de IA lideran los riesgos sanitarios tecnológicos
Los chatbots que se basan en modelos ChatGPT, Claude, Copilot, Gemini y Grok— producen respuestas que suenan humanas y expertas a las preguntas de los usuarios. Más de 40 millones de personas recurren diariamente a ChatGPT para obtener información sanitaria, según un análisis reciente de OpenAI.#ApisDom #LaAutopsIA #FallAI #IA #AI
https://laautopsia.com/noticia/mal-uso-chatbots-ia-encabeza-lista
-
El reto de la consistencia
La misma pregunta respuestas distintas. No es un fallo, es asi cómo funciona.
El problema es cuando nuestro negocio necesita que siempre diga lo mismo para tomar decisiones.
Si una opinión hoy es buena y mañana regular, los datos para tomar decisiones NO VALEN NADA.
No basta con usar IA: hay que ponerle límites para que no cambie sola.
Sin esos límites, no estámos automatizando nuestro negocio, estámos dejándolo en manos de la suerte.