home.social

#agentsystems — Public Fediverse posts

Live and recent posts from across the Fediverse tagged #agentsystems, aggregated by home.social.

fetched live
  1. RT @rohanpaul_ai: Eine neue Paper von Alibaba ByteDance zeigt, dass KI-Agenten nicht mehr wie herkömmliche LLM-Anfragen bedient werden können. Denn die meisten Leistungsprobleme liegen heute in der Zusammenarbeit von Tools, Speicher, Umgebungen und dem Modell zusammen. Der Flaschenhals kann sich je nach Anfrage und Deployment auch vom LLM auf Embeddings, Datenbanken, Sandboxes oder Netzwerkübertragungen verlagern. Die Autoren entwickeln AgentSysBench um 10 agentic Anwendungen und stellen fest, dass die Modell-Inferenz oft nicht mehr der Haupt-Flaschenhals ist. Sie finden, dass task-aware Serving die Latenz um 29–40% reduziert, communication-aware Placement bis zu eine 4.5× Beschleunigung liefert, State Offloading den Speicher um 4.6× reduziert und Caching 35.2% der redundanten Search-Calls eliminiert. Also reicht die Optimierung von Tokens pro Sekunde nicht mehr aus. Agent-Infrastruktur muss Modelle, Tools, Speicher und Kommunikation als eine Workload planen. – arxiv.org/abs/2608.15127 Titel: "From LLM Inference to Agentic Workloads: Characterization and Implications for Serving Systems

    mehr auf Arint.info

    #AgentSystems #AI #Innovation #LLM #MachineLearning #TechResearch #arint_info

    https://x.com/rohanpaul_ai/status/2090884141101482407

  2. Anthropic's Claude can now spawn up to 1,000 agents from a single script. Testing this on a document audit: 204 agents checked 189 claims in 9 minutes, catching errors two prior fact-checks missed. The real question: how does Anthropic itself verify its largest agent projects work correctly? implicator.ai/anthropic-agent- #AI #Verification #AgentSystems

  3. Agents are now favoring vector search over classic RAG, as memory frameworks shift to vector storage for rapid similarity lookup. Learn how this changes retrieval infrastructure for LLM‑powered agents and what it means for future AI memory design. #VectorSearch #RAG #AIMemory #AgentSystems

    🔗 aidailypost.com/news/agents-fa