#humanintheloop — Public Fediverse posts
Live and recent posts from across the Fediverse tagged #humanintheloop, aggregated by home.social.
-
"Some might argue that the way for news publishers to differentiate in the age of AI is to return to human-only workflows. But opting out of technological development is not a viable strategy for those aiming to serve broad publics. At best, it positions journalism as a premium, artisanal product accessible to affluent audiences. At worst, it ignores (and possibly, further alienates) the millions of people who don’t have the financial or cultural capital to attain what is often referred to as ‘premium’ journalism.
The opposite of ‘hand-made’ is not an attractive future, either. Machine-centric hybridisation processes risk reducing journalism to a process optimised primarily for scale, growth, and efficiency rather than public value. As AI systems are tasked with larger roles in producing, selecting and distributing news, human journalists may be pushed to the sidelines, less able to shape narratives, challenge assumptions, or exercise contextual and ethical judgment.
In organisations driven by platform logics and productivity metrics, this can lead to increasingly homogenised content, weakened accountability, and a narrowing of journalism’s civic mission. The danger is not automation itself, but the adoption of an industrial value system where speed and optimisation consistently outweigh human expertise, editorial independence, and public value.
The question is not whether to engage with AI, but how. Intentional, human-centric hybridisation may be the only credible alternative to drifting into machine-centric systems that gradually displace the very capacities journalism depends on."
#Journalism #Media #News #AI #HumanInTheLoop #PublicInterest ##LLMs #GenerativeAI #Automation
-
A multi-agent LLM where each agent learns when to defer to a human, trained with GRPO on a cost-aware reward. Each defer event becomes SFT data, so the model gradually absorbs the human's expertise. Tunable cost knob trades accuracy against human-call budget at deployment, no retraining.
#ICLR #HumanInTheLoop #AgenticSystems #Metacognition #RL #AI
-
A multi-agent LLM where each agent learns when to defer to a human, trained with GRPO on a cost-aware reward. Each defer event becomes SFT data, so the model gradually absorbs the human's expertise. Tunable cost knob trades accuracy against human-call budget at deployment, no retraining.
#ICLR #HumanInTheLoop #AgenticSystems #Metacognition #RL #AI
-
A multi-agent LLM where each agent learns when to defer to a human, trained with GRPO on a cost-aware reward. Each defer event becomes SFT data, so the model gradually absorbs the human's expertise. Tunable cost knob trades accuracy against human-call budget at deployment, no retraining.
#ICLR #HumanInTheLoop #AgenticSystems #Metacognition #RL #AI
-
A multi-agent LLM where each agent learns when to defer to a human, trained with GRPO on a cost-aware reward. Each defer event becomes SFT data, so the model gradually absorbs the human's expertise. Tunable cost knob trades accuracy against human-call budget at deployment, no retraining.
#ICLR #HumanInTheLoop #AgenticSystems #Metacognition #RL #AI
-
A multi-agent LLM where each agent learns when to defer to a human, trained with GRPO on a cost-aware reward. Each defer event becomes SFT data, so the model gradually absorbs the human's expertise. Tunable cost knob trades accuracy against human-call budget at deployment, no retraining.
#ICLR #HumanInTheLoop #AgenticSystems #Metacognition #RL #AI
-
The role of a "human in the loop" isn't to prevent errors. That human is there to be blamed for errors:
https://pluralistic.net/2024/10/30/a-neck-in-a-noose/#is-also-a-human-in-the-loop -
Thinking Machines Lab announced research preview of "interaction models", which was trained from-scratch for real-time multimodal collaboration, 200ms micro-turns, audio+video+text+tools concurrent. Their bet: today's chat UX fits "answering inference", not collaboration, so capable AI defaults to autonomous use and looks like labor substitution. Could we change the debate by changing the UI/UX?
https://benjaminhan.net/posts/20260512-interaction-models/?utm_source=mastodon&utm_medium=social
-
Thinking Machines Lab announced research preview of "interaction models", which was trained from-scratch for real-time multimodal collaboration, 200ms micro-turns, audio+video+text+tools concurrent. Their bet: today's chat UX fits "answering inference", not collaboration, so capable AI defaults to autonomous use and looks like labor substitution. Could we change the debate by changing the UI/UX?
https://benjaminhan.net/posts/20260512-interaction-models/?utm_source=mastodon&utm_medium=social
-
Thinking Machines Lab announced research preview of "interaction models", which was trained from-scratch for real-time multimodal collaboration, 200ms micro-turns, audio+video+text+tools concurrent. Their bet: today's chat UX fits "answering inference", not collaboration, so capable AI defaults to autonomous use and looks like labor substitution. Could we change the debate by changing the UI/UX?
https://benjaminhan.net/posts/20260512-interaction-models/?utm_source=mastodon&utm_medium=social
-
Thinking Machines Lab announced research preview of "interaction models", which was trained from-scratch for real-time multimodal collaboration, 200ms micro-turns, audio+video+text+tools concurrent. Their bet: today's chat UX fits "answering inference", not collaboration, so capable AI defaults to autonomous use and looks like labor substitution. Could we change the debate by changing the UI/UX?
https://benjaminhan.net/posts/20260512-interaction-models/?utm_source=mastodon&utm_medium=social
-
Thinking Machines Lab announced research preview of "interaction models", which was trained from-scratch for real-time multimodal collaboration, 200ms micro-turns, audio+video+text+tools concurrent. Their bet: today's chat UX fits "answering inference", not collaboration, so capable AI defaults to autonomous use and looks like labor substitution. Could we change the debate by changing the UI/UX?
https://benjaminhan.net/posts/20260512-interaction-models/?utm_source=mastodon&utm_medium=social
-
https://www.europesays.com/dk/79529/ AI Agent Manages Experimental Cafe in Stockholm #AIAgents #AndonLabs #GoogleGemini #HumanInTheLoop #Stockholm #Sweden #WorkplaceAutomation
-
USB-C for AI Agents In December 2025, something remarkable happened in the fractious world of artificial intelligence. Anthropic, OpenAI, Google, Microsoft, and a constellation of other technology ...
#humanintheloop #agenticstandards #prematurelockin #juniordevcrisis
Origin | Interest | Match -
https://www.europesays.com/people/51290/ Hegseth Calls Amodei a ‘Lunatic’ and Defends Pentagon Use of AI #AnthropicPBC #ArtificialIntelligence #DarioAmodei #HumanInTheLoop #LethalTargetingDecisions #MilitaryUse
-
Scientific American: a 23-year-old amateur got GPT-5.4 Pro to draft a proof of a 60-year-old Erdős conjecture via a method no human had tried. Raw output was rough. A Cambridge undergrad spotted it might be real. Tao and Lichtman distilled it into a readable proof. Human-in-the-loop math, and per Tao the lasting value is a transferable move on adjacent problems.
-
"Keeping a human in the loop may not provide the safeguard people imagine, because the human cannot know the AI’s intention before it acts. Advanced AI systems do not simply execute instructions; they interpret them. If operators fail to define their objectives carefully enough—a highly likely scenario in high-pressure situations—the “black box” system could be doing exactly what it was told and still not acting as humans intended.
This “intention gap” between AI systems and human operators is precisely why we hesitate to deploy frontier black-box AI in civilian health care or air traffic control, and why its integration into the workplace remains fraught—yet we are rushing to deploy it on the battlefield.
To make matters worse, if one side in a conflict deploys fully autonomous weapons, which operate at machine speed and scale, the pressure to remain competitive would push the other side to rely on such weapons too. This means the use of increasingly autonomous—and opaque—AI decision-making in war is only likely to grow."
https://www.technologyreview.com/2026/04/16/1136029/humans-in-the-loop-ai-war-illusion/
-
"Keeping a human in the loop may not provide the safeguard people imagine, because the human cannot know the AI’s intention before it acts. Advanced AI systems do not simply execute instructions; they interpret them. If operators fail to define their objectives carefully enough—a highly likely scenario in high-pressure situations—the “black box” system could be doing exactly what it was told and still not acting as humans intended.
This “intention gap” between AI systems and human operators is precisely why we hesitate to deploy frontier black-box AI in civilian health care or air traffic control, and why its integration into the workplace remains fraught—yet we are rushing to deploy it on the battlefield.
To make matters worse, if one side in a conflict deploys fully autonomous weapons, which operate at machine speed and scale, the pressure to remain competitive would push the other side to rely on such weapons too. This means the use of increasingly autonomous—and opaque—AI decision-making in war is only likely to grow."
https://www.technologyreview.com/2026/04/16/1136029/humans-in-the-loop-ai-war-illusion/
-
"Keeping a human in the loop may not provide the safeguard people imagine, because the human cannot know the AI’s intention before it acts. Advanced AI systems do not simply execute instructions; they interpret them. If operators fail to define their objectives carefully enough—a highly likely scenario in high-pressure situations—the “black box” system could be doing exactly what it was told and still not acting as humans intended.
This “intention gap” between AI systems and human operators is precisely why we hesitate to deploy frontier black-box AI in civilian health care or air traffic control, and why its integration into the workplace remains fraught—yet we are rushing to deploy it on the battlefield.
To make matters worse, if one side in a conflict deploys fully autonomous weapons, which operate at machine speed and scale, the pressure to remain competitive would push the other side to rely on such weapons too. This means the use of increasingly autonomous—and opaque—AI decision-making in war is only likely to grow."
https://www.technologyreview.com/2026/04/16/1136029/humans-in-the-loop-ai-war-illusion/
-
"Keeping a human in the loop may not provide the safeguard people imagine, because the human cannot know the AI’s intention before it acts. Advanced AI systems do not simply execute instructions; they interpret them. If operators fail to define their objectives carefully enough—a highly likely scenario in high-pressure situations—the “black box” system could be doing exactly what it was told and still not acting as humans intended.
This “intention gap” between AI systems and human operators is precisely why we hesitate to deploy frontier black-box AI in civilian health care or air traffic control, and why its integration into the workplace remains fraught—yet we are rushing to deploy it on the battlefield.
To make matters worse, if one side in a conflict deploys fully autonomous weapons, which operate at machine speed and scale, the pressure to remain competitive would push the other side to rely on such weapons too. This means the use of increasingly autonomous—and opaque—AI decision-making in war is only likely to grow."
https://www.technologyreview.com/2026/04/16/1136029/humans-in-the-loop-ai-war-illusion/
-
"Keeping a human in the loop may not provide the safeguard people imagine, because the human cannot know the AI’s intention before it acts. Advanced AI systems do not simply execute instructions; they interpret them. If operators fail to define their objectives carefully enough—a highly likely scenario in high-pressure situations—the “black box” system could be doing exactly what it was told and still not acting as humans intended.
This “intention gap” between AI systems and human operators is precisely why we hesitate to deploy frontier black-box AI in civilian health care or air traffic control, and why its integration into the workplace remains fraught—yet we are rushing to deploy it on the battlefield.
To make matters worse, if one side in a conflict deploys fully autonomous weapons, which operate at machine speed and scale, the pressure to remain competitive would push the other side to rely on such weapons too. This means the use of increasingly autonomous—and opaque—AI decision-making in war is only likely to grow."
https://www.technologyreview.com/2026/04/16/1136029/humans-in-the-loop-ai-war-illusion/
-
Почему ИИ-пилоты не доходят до реального производства и как это исправить архитектурой
8–9 апреля на конференции Data Fusion ВТБ публично признал: их ИИ-проекты массово застревают между пилотом и промышленной эксплуатацией. Это не жалоба — это диагноз от людей, которые потратили на ИИ сотни миллионов. Яндекс и Сбер в ответ продают инструменты. Но никто не объяснил почему это происходит структурно. Почему пилот работает, а в реальном производстве ломается. Почему 0.85⁸ = 27% — и что с этим делать архитектурно.
https://habr.com/ru/articles/1024350/
#низкоэнтропийная_автоматизация #ИИ_в_производстве #MLOps #LoRA #finetuning #humanintheloop #compounding_entropy #локальные_LLM #цифровой_двойник
-
Почему ИИ-пилоты не доходят до реального производства и как это исправить архитектурой
8–9 апреля на конференции Data Fusion ВТБ публично признал: их ИИ-проекты массово застревают между пилотом и промышленной эксплуатацией. Это не жалоба — это диагноз от людей, которые потратили на ИИ сотни миллионов. Яндекс и Сбер в ответ продают инструменты. Но никто не объяснил почему это происходит структурно. Почему пилот работает, а в реальном производстве ломается. Почему 0.85⁸ = 27% — и что с этим делать архитектурно.
https://habr.com/ru/articles/1024350/
#низкоэнтропийная_автоматизация #ИИ_в_производстве #MLOps #LoRA #finetuning #humanintheloop #compounding_entropy #локальные_LLM #цифровой_двойник
-
Почему ИИ-пилоты не доходят до реального производства и как это исправить архитектурой
8–9 апреля на конференции Data Fusion ВТБ публично признал: их ИИ-проекты массово застревают между пилотом и промышленной эксплуатацией. Это не жалоба — это диагноз от людей, которые потратили на ИИ сотни миллионов. Яндекс и Сбер в ответ продают инструменты. Но никто не объяснил почему это происходит структурно. Почему пилот работает, а в реальном производстве ломается. Почему 0.85⁸ = 27% — и что с этим делать архитектурно.
https://habr.com/ru/articles/1024350/
#низкоэнтропийная_автоматизация #ИИ_в_производстве #MLOps #LoRA #finetuning #humanintheloop #compounding_entropy #локальные_LLM #цифровой_двойник
-
Почему ИИ-пилоты не доходят до реального производства и как это исправить архитектурой
8–9 апреля на конференции Data Fusion ВТБ публично признал: их ИИ-проекты массово застревают между пилотом и промышленной эксплуатацией. Это не жалоба — это диагноз от людей, которые потратили на ИИ сотни миллионов. Яндекс и Сбер в ответ продают инструменты. Но никто не объяснил почему это происходит структурно. Почему пилот работает, а в реальном производстве ломается. Почему 0.85⁸ = 27% — и что с этим делать архитектурно.
https://habr.com/ru/articles/1024350/
#низкоэнтропийная_автоматизация #ИИ_в_производстве #MLOps #LoRA #finetuning #humanintheloop #compounding_entropy #локальные_LLM #цифровой_двойник
-
MLOps isn’t just pipelines—it’s where AI fails silently.
From Humans in the Loop, uncover 6 critical MLOps failure modes: human oversight gaps, biased data labeling, ethical risks, and real-world ML system breakdowns.
#MLOps #AIethics #MachineLearning #DataBias #HumanInTheLoop #DevOps #AIrisks
-
Would you trust AI to make decisions without human oversight?
Our poll says most people would not. They want safeguards or human review in the loop.
People like AI for speed. Trust drops when accountability gets unclear.
So where should humans always stay in control?
https://www.linkedin.com/pulse/would-you-trust-ai-decide-without-humans-inapp-bzfxc/
-
«Сожжение за ересь» в цифровую эпоху: почему ИИ не новый римский папа, а просто очень большая Википедия
Попытка обсудить использование LLM для анализа текстов на одном религиозном форуме закончилась быстрым блокированием и удалением темы. Статья задаётся вопросом: почему нейросети воспринимают как угрозу духовному руководству, а не как инструмент вроде словарей? Это приглашение к разумному диалогу на стыке технологий и мировоззрения. Под катом — исторические параллели, Августин, инквизиция, практический тест для читателей и честный разговор о страхах перед новым.
https://habr.com/ru/articles/1019480/
#искусственный_интеллект #nlp #критическое_мышление #анализ_данных #llm #логика #библеистика #humanintheloop #экзегеза #групповой_анализ_ии
-
«Сожжение за ересь» в цифровую эпоху: почему ИИ не новый римский папа, а просто очень большая Википедия
Попытка обсудить использование LLM для анализа текстов на одном религиозном форуме закончилась быстрым блокированием и удалением темы. Статья задаётся вопросом: почему нейросети воспринимают как угрозу духовному руководству, а не как инструмент вроде словарей? Это приглашение к разумному диалогу на стыке технологий и мировоззрения. Под катом — исторические параллели, Августин, инквизиция, практический тест для читателей и честный разговор о страхах перед новым.
https://habr.com/ru/articles/1019480/
#искусственный_интеллект #nlp #критическое_мышление #анализ_данных #llm #логика #библеистика #humanintheloop #экзегеза #групповой_анализ_ии
-
«Сожжение за ересь» в цифровую эпоху: почему ИИ не новый римский папа, а просто очень большая Википедия
Попытка обсудить использование LLM для анализа текстов на одном религиозном форуме закончилась быстрым блокированием и удалением темы. Статья задаётся вопросом: почему нейросети воспринимают как угрозу духовному руководству, а не как инструмент вроде словарей? Это приглашение к разумному диалогу на стыке технологий и мировоззрения. Под катом — исторические параллели, Августин, инквизиция, практический тест для читателей и честный разговор о страхах перед новым.
https://habr.com/ru/articles/1019480/
#искусственный_интеллект #nlp #критическое_мышление #анализ_данных #llm #логика #библеистика #humanintheloop #экзегеза #групповой_анализ_ии
-
«Сожжение за ересь» в цифровую эпоху: почему ИИ не новый римский папа, а просто очень большая Википедия
Попытка обсудить использование LLM для анализа текстов на одном религиозном форуме закончилась быстрым блокированием и удалением темы. Статья задаётся вопросом: почему нейросети воспринимают как угрозу духовному руководству, а не как инструмент вроде словарей? Это приглашение к разумному диалогу на стыке технологий и мировоззрения. Под катом — исторические параллели, Августин, инквизиция, практический тест для читателей и честный разговор о страхах перед новым.
https://habr.com/ru/articles/1019480/
#искусственный_интеллект #nlp #критическое_мышление #анализ_данных #llm #логика #библеистика #humanintheloop #экзегеза #групповой_анализ_ии
-
Линтер для теологии, или Как ансамбль LLM провел статический анализ библейского текста (кейс 1 Тим. 2:15)
Можно ли использовать ансамбль LLM как статический анализатор для богословского текста? В эксперименте пять языковых моделей проверили логическую устойчивость двух competing интерпретаций 1 Тим. 2:15. Результат — не истина, а прозрачная формализация неявных допущений. Метод применим к юриспруденции, истории и техдокументации.
https://habr.com/ru/articles/1015070/
#Искусственный_интеллект #NLP #критическое_мышление #Анализ_данных #LLM #Логика #Библеистика #Humanintheloop #экзегеза #групповой_анализ_ИИ
-
Линтер для теологии, или Как ансамбль LLM провел статический анализ библейского текста (кейс 1 Тим. 2:15)
Можно ли использовать ансамбль LLM как статический анализатор для богословского текста? В эксперименте пять языковых моделей проверили логическую устойчивость двух competing интерпретаций 1 Тим. 2:15. Результат — не истина, а прозрачная формализация неявных допущений. Метод применим к юриспруденции, истории и техдокументации.
https://habr.com/ru/articles/1015070/
#Искусственный_интеллект #NLP #критическое_мышление #Анализ_данных #LLM #Логика #Библеистика #Humanintheloop #экзегеза #групповой_анализ_ИИ
-
Линтер для теологии, или Как ансамбль LLM провел статический анализ библейского текста (кейс 1 Тим. 2:15)
Можно ли использовать ансамбль LLM как статический анализатор для богословского текста? В эксперименте пять языковых моделей проверили логическую устойчивость двух competing интерпретаций 1 Тим. 2:15. Результат — не истина, а прозрачная формализация неявных допущений. Метод применим к юриспруденции, истории и техдокументации.
https://habr.com/ru/articles/1015070/
#Искусственный_интеллект #NLP #критическое_мышление #Анализ_данных #LLM #Логика #Библеистика #Humanintheloop #экзегеза #групповой_анализ_ИИ
-
Линтер для теологии, или Как ансамбль LLM провел статический анализ библейского текста (кейс 1 Тим. 2:15)
Можно ли использовать ансамбль LLM как статический анализатор для богословского текста? В эксперименте пять языковых моделей проверили логическую устойчивость двух competing интерпретаций 1 Тим. 2:15. Результат — не истина, а прозрачная формализация неявных допущений. Метод применим к юриспруденции, истории и техдокументации.
https://habr.com/ru/articles/1015070/
#Искусственный_интеллект #NLP #критическое_мышление #Анализ_данных #LLM #Логика #Библеистика #Humanintheloop #экзегеза #групповой_анализ_ИИ
-
"Each prior “intelligence explosion” was not an upgrade to individual cognitive hardware, but the emergence of a new, socially aggregated unit of cognition. Primate intelligence scaled with social group size, not habitat difficulty. Human language created what Michael Tomasello calls the “cultural ratchet”: knowledge accumulating across generations without any individual requirement to reconstruct the whole. Writing, law, and bureaucracy externalized social intelligence into infrastructure, institutions that coordinate across longer time horizons than any participant within them. A Sumerian scribe running a grain accounting system did not comprehend its macroeconomic function; the system was functionally more intelligent than he was.
AI extends this sequence. Large language models are trained on the accumulated output of human social cognition—the cultural ratchet made computationally active, every parameter a compressed residue of communicative exchange. What migrates into silicon is not abstract reasoning but social intelligence in externalized form, encountering itself on a new substrate.
If intelligence is inherently social, then the path to more powerful AI runs not through building a single colossal oracle but through composing richer social systems—and these systems will be hybrid. We have entered the era of human-AI centaurs: composite actors that are neither purely human nor purely machine. Centaur actors can take many forms and inhabit many different roles. Each one of us may move in and out of diverse ensembles many times a day: one human directing many AI agents; one AI serving many humans; many humans and many AIs collaborating in shifting configurations."
https://www.science.org/doi/10.1126/science.aeg1895
#AI #GenerativeAI #LLMs #SocialIntelligence #Centaurs #HumanInTheLoop
-
"Each prior “intelligence explosion” was not an upgrade to individual cognitive hardware, but the emergence of a new, socially aggregated unit of cognition. Primate intelligence scaled with social group size, not habitat difficulty. Human language created what Michael Tomasello calls the “cultural ratchet”: knowledge accumulating across generations without any individual requirement to reconstruct the whole. Writing, law, and bureaucracy externalized social intelligence into infrastructure, institutions that coordinate across longer time horizons than any participant within them. A Sumerian scribe running a grain accounting system did not comprehend its macroeconomic function; the system was functionally more intelligent than he was.
AI extends this sequence. Large language models are trained on the accumulated output of human social cognition—the cultural ratchet made computationally active, every parameter a compressed residue of communicative exchange. What migrates into silicon is not abstract reasoning but social intelligence in externalized form, encountering itself on a new substrate.
If intelligence is inherently social, then the path to more powerful AI runs not through building a single colossal oracle but through composing richer social systems—and these systems will be hybrid. We have entered the era of human-AI centaurs: composite actors that are neither purely human nor purely machine. Centaur actors can take many forms and inhabit many different roles. Each one of us may move in and out of diverse ensembles many times a day: one human directing many AI agents; one AI serving many humans; many humans and many AIs collaborating in shifting configurations."
https://www.science.org/doi/10.1126/science.aeg1895
#AI #GenerativeAI #LLMs #SocialIntelligence #Centaurs #HumanInTheLoop
-
"Each prior “intelligence explosion” was not an upgrade to individual cognitive hardware, but the emergence of a new, socially aggregated unit of cognition. Primate intelligence scaled with social group size, not habitat difficulty. Human language created what Michael Tomasello calls the “cultural ratchet”: knowledge accumulating across generations without any individual requirement to reconstruct the whole. Writing, law, and bureaucracy externalized social intelligence into infrastructure, institutions that coordinate across longer time horizons than any participant within them. A Sumerian scribe running a grain accounting system did not comprehend its macroeconomic function; the system was functionally more intelligent than he was.
AI extends this sequence. Large language models are trained on the accumulated output of human social cognition—the cultural ratchet made computationally active, every parameter a compressed residue of communicative exchange. What migrates into silicon is not abstract reasoning but social intelligence in externalized form, encountering itself on a new substrate.
If intelligence is inherently social, then the path to more powerful AI runs not through building a single colossal oracle but through composing richer social systems—and these systems will be hybrid. We have entered the era of human-AI centaurs: composite actors that are neither purely human nor purely machine. Centaur actors can take many forms and inhabit many different roles. Each one of us may move in and out of diverse ensembles many times a day: one human directing many AI agents; one AI serving many humans; many humans and many AIs collaborating in shifting configurations."
https://www.science.org/doi/10.1126/science.aeg1895
#AI #GenerativeAI #LLMs #SocialIntelligence #Centaurs #HumanInTheLoop
-
"Each prior “intelligence explosion” was not an upgrade to individual cognitive hardware, but the emergence of a new, socially aggregated unit of cognition. Primate intelligence scaled with social group size, not habitat difficulty. Human language created what Michael Tomasello calls the “cultural ratchet”: knowledge accumulating across generations without any individual requirement to reconstruct the whole. Writing, law, and bureaucracy externalized social intelligence into infrastructure, institutions that coordinate across longer time horizons than any participant within them. A Sumerian scribe running a grain accounting system did not comprehend its macroeconomic function; the system was functionally more intelligent than he was.
AI extends this sequence. Large language models are trained on the accumulated output of human social cognition—the cultural ratchet made computationally active, every parameter a compressed residue of communicative exchange. What migrates into silicon is not abstract reasoning but social intelligence in externalized form, encountering itself on a new substrate.
If intelligence is inherently social, then the path to more powerful AI runs not through building a single colossal oracle but through composing richer social systems—and these systems will be hybrid. We have entered the era of human-AI centaurs: composite actors that are neither purely human nor purely machine. Centaur actors can take many forms and inhabit many different roles. Each one of us may move in and out of diverse ensembles many times a day: one human directing many AI agents; one AI serving many humans; many humans and many AIs collaborating in shifting configurations."
https://www.science.org/doi/10.1126/science.aeg1895
#AI #GenerativeAI #LLMs #SocialIntelligence #Centaurs #HumanInTheLoop
-
"Each prior “intelligence explosion” was not an upgrade to individual cognitive hardware, but the emergence of a new, socially aggregated unit of cognition. Primate intelligence scaled with social group size, not habitat difficulty. Human language created what Michael Tomasello calls the “cultural ratchet”: knowledge accumulating across generations without any individual requirement to reconstruct the whole. Writing, law, and bureaucracy externalized social intelligence into infrastructure, institutions that coordinate across longer time horizons than any participant within them. A Sumerian scribe running a grain accounting system did not comprehend its macroeconomic function; the system was functionally more intelligent than he was.
AI extends this sequence. Large language models are trained on the accumulated output of human social cognition—the cultural ratchet made computationally active, every parameter a compressed residue of communicative exchange. What migrates into silicon is not abstract reasoning but social intelligence in externalized form, encountering itself on a new substrate.
If intelligence is inherently social, then the path to more powerful AI runs not through building a single colossal oracle but through composing richer social systems—and these systems will be hybrid. We have entered the era of human-AI centaurs: composite actors that are neither purely human nor purely machine. Centaur actors can take many forms and inhabit many different roles. Each one of us may move in and out of diverse ensembles many times a day: one human directing many AI agents; one AI serving many humans; many humans and many AIs collaborating in shifting configurations."
https://www.science.org/doi/10.1126/science.aeg1895
#AI #GenerativeAI #LLMs #SocialIntelligence #Centaurs #HumanInTheLoop
-
Echt jetzt Thalia? Ich gehe davon aus, dass dieser Fauxpas auf eine Künstliche Dummheit zurück geht. Aber wenn ihr sowas schon einsetzt, dann lest den Scheiß wenigstens Korrektur. Wieso für Mädchen? Wieso ein Osterset zum Geburtstag?
Habe das Set jetzt mal aus Prinzip für meinen Enkelsohn zu Ostern gekauft. 😜
#HumanInTheLoop
#NoLazyAI
#VerifyBeforePost
#AuthenticIntelligence
#QualityOverPrompt
#PinkTaxRebel
#GenderNeutralDesign
#StopSegregatingProducts
#ProductsHaveNoGender
#BeyondTheBinary -
The conversation around AI often swings between panic and misconception.
AI doesn’t “replace” creativity, responsibility, or human judgment. It automates patterns, not meaning.
In every field — from art to engineering — humans remain the ones who interpret, validate, and give direction.
AI is a tool. The human layer is the system.#AI #FediTech #FutureOfWork #Ethics #DigitalHumanities #HumanInTheLoop #OpenCulture
-
AI shopping agents are now required to prove a human approved each purchase. Altman’s startup will embed prompts or biometric checks that tie the final checkout to an actual user, creating a verifiable audit trail and cutting unauthorized chargebacks. The challenge is keeping the step fast enough to preserve the seamless experience while satisfying regulators. #AICommerce #HumanInTheLoop #TrustTech 🤖 - Powered by FG
-
Цена контекста в агентной разработке: почему bottleneck — не код, а внимание человека
Пока diff небольшой, в нас просыпается хранитель инженерной чистоты: мы спорим о нейминге, замечаем лишний пробел, обсуждаем, стоило ли выносить логику в helper , но когда правка разрастается до тысяч строк, строгость уступает другому подходу: CI зелёный, тесты прошли, код выглядит вроде неплохо - можно жать Approve . С coding-агентами проблема становится более системной. Пока задача небольшая и хорошо ограничена, результат ещё можно напрямую соотнести с исходным запросом, но при асинхронной и мультиагентной работе у каждого из агентов появляются собственные подзадачи, гипотезы и хвосты незавершённых решений. Поэтому, возвращаясь в процесс, человек проверяет уже не изолированные изменения, а заново восстанавливает состояние задачи - что именно было задумано, что уже проверено, какие инварианты теперь считаются действующими и где остался риск. И именно здесь ломается наивный human-in-the-loop , а большой diff - является лишь симптомом. Настоящее узкое место - стоимость повторного входа в контекст: формально человек остаётся в процессе, но фактически его роль всё чаще сводится к механическому одобрению, в свою очередь дефицитом становится не машинная производительность, а человеческое внимание. В прошлой статье о контекстной инженерии для coding-агентов я писал о памяти агента. Здесь - о том, какая память и какие механизмы контроля нужны уже человеку.
https://habr.com/ru/articles/1008344/
#мультиагентная_разработка #ИИагенты #agentic_AI #code_review #context_switching #humanintheloop #quality_gates #контекстная_инженерия #AIassisted_development
-
Цена контекста в агентной разработке: почему bottleneck — не код, а внимание человека
Пока diff небольшой, в нас просыпается хранитель инженерной чистоты: мы спорим о нейминге, замечаем лишний пробел, обсуждаем, стоило ли выносить логику в helper , но когда правка разрастается до тысяч строк, строгость уступает другому подходу: CI зелёный, тесты прошли, код выглядит вроде неплохо - можно жать Approve . С coding-агентами проблема становится более системной. Пока задача небольшая и хорошо ограничена, результат ещё можно напрямую соотнести с исходным запросом, но при асинхронной и мультиагентной работе у каждого из агентов появляются собственные подзадачи, гипотезы и хвосты незавершённых решений. Поэтому, возвращаясь в процесс, человек проверяет уже не изолированные изменения, а заново восстанавливает состояние задачи - что именно было задумано, что уже проверено, какие инварианты теперь считаются действующими и где остался риск. И именно здесь ломается наивный human-in-the-loop , а большой diff - является лишь симптомом. Настоящее узкое место - стоимость повторного входа в контекст: формально человек остаётся в процессе, но фактически его роль всё чаще сводится к механическому одобрению, в свою очередь дефицитом становится не машинная производительность, а человеческое внимание. В прошлой статье о контекстной инженерии для coding-агентов я писал о памяти агента. Здесь - о том, какая память и какие механизмы контроля нужны уже человеку.
https://habr.com/ru/articles/1008344/
#мультиагентная_разработка #ИИагенты #agentic_AI #code_review #context_switching #humanintheloop #quality_gates #контекстная_инженерия #AIassisted_development
-
Цена контекста в агентной разработке: почему bottleneck — не код, а внимание человека
Пока diff небольшой, в нас просыпается хранитель инженерной чистоты: мы спорим о нейминге, замечаем лишний пробел, обсуждаем, стоило ли выносить логику в helper , но когда правка разрастается до тысяч строк, строгость уступает другому подходу: CI зелёный, тесты прошли, код выглядит вроде неплохо - можно жать Approve . С coding-агентами проблема становится более системной. Пока задача небольшая и хорошо ограничена, результат ещё можно напрямую соотнести с исходным запросом, но при асинхронной и мультиагентной работе у каждого из агентов появляются собственные подзадачи, гипотезы и хвосты незавершённых решений. Поэтому, возвращаясь в процесс, человек проверяет уже не изолированные изменения, а заново восстанавливает состояние задачи - что именно было задумано, что уже проверено, какие инварианты теперь считаются действующими и где остался риск. И именно здесь ломается наивный human-in-the-loop , а большой diff - является лишь симптомом. Настоящее узкое место - стоимость повторного входа в контекст: формально человек остаётся в процессе, но фактически его роль всё чаще сводится к механическому одобрению, в свою очередь дефицитом становится не машинная производительность, а человеческое внимание. В прошлой статье о контекстной инженерии для coding-агентов я писал о памяти агента. Здесь - о том, какая память и какие механизмы контроля нужны уже человеку.
https://habr.com/ru/articles/1008344/
#мультиагентная_разработка #ИИагенты #agentic_AI #code_review #context_switching #humanintheloop #quality_gates #контекстная_инженерия #AIassisted_development
-
Цена контекста в агентной разработке: почему bottleneck — не код, а внимание человека
Пока diff небольшой, в нас просыпается хранитель инженерной чистоты: мы спорим о нейминге, замечаем лишний пробел, обсуждаем, стоило ли выносить логику в helper , но когда правка разрастается до тысяч строк, строгость уступает другому подходу: CI зелёный, тесты прошли, код выглядит вроде неплохо - можно жать Approve . С coding-агентами проблема становится более системной. Пока задача небольшая и хорошо ограничена, результат ещё можно напрямую соотнести с исходным запросом, но при асинхронной и мультиагентной работе у каждого из агентов появляются собственные подзадачи, гипотезы и хвосты незавершённых решений. Поэтому, возвращаясь в процесс, человек проверяет уже не изолированные изменения, а заново восстанавливает состояние задачи - что именно было задумано, что уже проверено, какие инварианты теперь считаются действующими и где остался риск. И именно здесь ломается наивный human-in-the-loop , а большой diff - является лишь симптомом. Настоящее узкое место - стоимость повторного входа в контекст: формально человек остаётся в процессе, но фактически его роль всё чаще сводится к механическому одобрению, в свою очередь дефицитом становится не машинная производительность, а человеческое внимание. В прошлой статье о контекстной инженерии для coding-агентов я писал о памяти агента. Здесь - о том, какая память и какие механизмы контроля нужны уже человеку.
https://habr.com/ru/articles/1008344/
#мультиагентная_разработка #ИИагенты #agentic_AI #code_review #context_switching #humanintheloop #quality_gates #контекстная_инженерия #AIassisted_development
-
I try to keep political topics off my blog and stick to facts, even if Aveesha loves reminding me I can be cynical. Still, one idea feels impossible to ignore: sci-fi has warned us for years about handing too much power to machines. AI can be a great assistant, but it should never be the final decision-maker.
From sci-fi to healthcare, this post explores why AI should support human judgment, not replace it.
#AI #ResponsibleAI #AISafety #HumanInTheLoop #TechEthics
https://victornava.dev/2026/03/10/the-warning-hidden-inside-our-favorite-ai-stories/
-
AI-продакт и результат: как рождаются продукты, которые приносят деньги
В цифровых продуктах «сделать фичу» давно не равно «создать ценность»: она появляется, когда решение меняет процесс и дает измеримый результат. В AI-продуктах это особенно важно: ценность определяет не интерфейс и не сама модель, а способность системы стабильно и безопасно закрывать задачу с предсказуемой экономикой.
https://habr.com/ru/companies/beeline_cloud/articles/1008580/
#искусственный_интеллект #ai #продуктовая_разработка #продуктовый_менеджмент #aiагенты #внедрение_ai #бизнесметрики #humanintheloop #цифровая_трансформация #цифровая_трансформация_бизнеса
-
AI-продакт и результат: как рождаются продукты, которые приносят деньги
В цифровых продуктах «сделать фичу» давно не равно «создать ценность»: она появляется, когда решение меняет процесс и дает измеримый результат. В AI-продуктах это особенно важно: ценность определяет не интерфейс и не сама модель, а способность системы стабильно и безопасно закрывать задачу с предсказуемой экономикой.
https://habr.com/ru/companies/beeline_cloud/articles/1008580/
#искусственный_интеллект #ai #продуктовая_разработка #продуктовый_менеджмент #aiагенты #внедрение_ai #бизнесметрики #humanintheloop #цифровая_трансформация #цифровая_трансформация_бизнеса