#объяснимый_ии — Public Fediverse posts

Заглянуть в «черный ящик»: как ИИ учат быть понятным человеку

Начну с реального случая: в 2023 году американский юрист Стивен Шварц использовал ChatGPT для подготовки судебного иска. Система уверенно создала юридический документ с многочисленными ссылками на прецеденты. С одним нюансом — все цитируемые дела оказались полностью выдуманными. Более того, когда юрист попросил ChatGPT проверить достоверность источников, система с той же уверенностью «подтвердила» подлинность несуществующих судебных решений. И это не единичный случай. Современные нейронные сети стали настолько сложными, что мы перестали понимать, как они принимают решения. Почему беспилотный автомобиль внезапно поворачивает не туда? По какой причине система медицинской диагностики пропустила опухоль на рентгеновском снимке? В таких критических случаях простого «доверия» к ИИ недостаточно — важно понимать, почему система принимает то или иное решение. Именно об этом и поговорим в статье.

https://habr.com/ru/companies/magnus-tech/articles/958854/

#объяснимый_ИИ #explainable_ai #интерпретируемый_ии #объяснимость_нейросетей #xai #методы_интерпретации_MLмоделей #нейросети #искусственный_интеллект

Заглянуть в «черный ящик»: как ИИ учат быть понятным человеку

Начну с реального случая: в 2023 году американский юрист Стивен Шварц использовал ChatGPT для подготовки судебного иска. Система уверенно создала юридический документ с многочисленными ссылками на прецеденты. С одним нюансом — все цитируемые дела оказались полностью выдуманными. Более того, когда юрист попросил ChatGPT проверить достоверность источников, система с той же уверенностью «подтвердила» подлинность несуществующих судебных решений. И это не единичный случай. Современные нейронные сети стали настолько сложными, что мы перестали понимать, как они принимают решения. Почему беспилотный автомобиль внезапно поворачивает не туда? По какой причине система медицинской диагностики пропустила опухоль на рентгеновском снимке? В таких критических случаях простого «доверия» к ИИ недостаточно — важно понимать, почему система принимает то или иное решение. Именно об этом и поговорим в статье.

https://habr.com/ru/companies/magnus-tech/articles/958854/

#объяснимый_ИИ #explainable_ai #интерпретируемый_ии #объяснимость_нейросетей #xai #методы_интерпретации_MLмоделей #нейросети #искусственный_интеллект

Заглянуть в «черный ящик»: как ИИ учат быть понятным человеку

Начну с реального случая: в 2023 году американский юрист Стивен Шварц использовал ChatGPT для подготовки судебного иска. Система уверенно создала юридический документ с многочисленными ссылками на прецеденты. С одним нюансом — все цитируемые дела оказались полностью выдуманными. Более того, когда юрист попросил ChatGPT проверить достоверность источников, система с той же уверенностью «подтвердила» подлинность несуществующих судебных решений. И это не единичный случай. Современные нейронные сети стали настолько сложными, что мы перестали понимать, как они принимают решения. Почему беспилотный автомобиль внезапно поворачивает не туда? По какой причине система медицинской диагностики пропустила опухоль на рентгеновском снимке? В таких критических случаях простого «доверия» к ИИ недостаточно — важно понимать, почему система принимает то или иное решение. Именно об этом и поговорим в статье.

https://habr.com/ru/companies/magnus-tech/articles/958854/

#объяснимый_ИИ #explainable_ai #интерпретируемый_ии #объяснимость_нейросетей #xai #методы_интерпретации_MLмоделей #нейросети #искусственный_интеллект

Заглянуть в «черный ящик»: как ИИ учат быть понятным человеку

Начну с реального случая: в 2023 году американский юрист Стивен Шварц использовал ChatGPT для подготовки судебного иска. Система уверенно создала юридический документ с многочисленными ссылками на прецеденты. С одним нюансом — все цитируемые дела оказались полностью выдуманными. Более того, когда юрист попросил ChatGPT проверить достоверность источников, система с той же уверенностью «подтвердила» подлинность несуществующих судебных решений. И это не единичный случай. Современные нейронные сети стали настолько сложными, что мы перестали понимать, как они принимают решения. Почему беспилотный автомобиль внезапно поворачивает не туда? По какой причине система медицинской диагностики пропустила опухоль на рентгеновском снимке? В таких критических случаях простого «доверия» к ИИ недостаточно — важно понимать, почему система принимает то или иное решение. Именно об этом и поговорим в статье.

https://habr.com/ru/companies/magnus-tech/articles/958854/

#объяснимый_ИИ #explainable_ai #интерпретируемый_ии #объяснимость_нейросетей #xai #методы_интерпретации_MLмоделей #нейросети #искусственный_интеллект

Серия: «Железный разум: взлёты и падения ИИ»Статья 1: От калькулятора до нейросетей — вся правда об эволюции ИИ

Серия: "Железный разум: взлёты и падения ИИ"Статья 1: От калькулятора до нейросетей — вся правда об эволюции ИИ Кажется, эпоха, когда ИИ был просто «чёрным ящиком», который выдавал ответы по никому не понятному наитию, потихоньку подходит к концу. Все мы уже наигрались с «галлюцинациями» больших языковых моделей и поняли, что для серьёзных дел одной лишь магии нейросетей недостаточно. Бизнес хочет предсказуемости, врачи — объяснений, а инженеры — надёжности. И вот тут на сцену снова выходят старые, проверенные временем принципы — логика, правила и структура. Нет, это не значит, что мы возвращаемся назад, к громоздким экспертным системам из 80-х. Это значит, что мы наконец-то научились их «женить» с мощью нейронных сетей. В этой статье мы без хайпа и маркетинговой шелухи разберём, что такое нейро-символический подход. Это не просто очередной модный термин, а, возможно, следующий большой шаг в эволюции ИИ. Мы пройдёмся по всей истории: вспомним, почему «зимы ИИ» были на самом деле полезны, как нейронная революция перевернула игру, и почему сегодня все так носятся с идеей гибридных систем. Посмотрим на реальные примеры из медицины, финансов и промышленности, где этот подход уже не теория, а рабочая лошадка. Разберём главные тренды 2025 года и поговорим о том, чего стоит бояться на самом деле. В общем, это лонгрид для тех, кто хочет понять не только, что умеет современный ИИ, но и как он устроен под капотом и почему он развивается именно так, а не иначе.

https://habr.com/ru/articles/943686/

#нейросимволический_ИИ #гибридный_искусственный_интеллект #история_ии #объяснимый_ИИ #ии_в_медицине #ИИ_в_финансах #генеративный_ии #будущее_искусственного_интеллекта #ИИагенты #машинное_обучение

Серия: «Железный разум: взлёты и падения ИИ»Статья 1: От калькулятора до нейросетей — вся правда об эволюции ИИ

Серия: "Железный разум: взлёты и падения ИИ"Статья 1: От калькулятора до нейросетей — вся правда об эволюции ИИ Кажется, эпоха, когда ИИ был просто «чёрным ящиком», который выдавал ответы по никому не понятному наитию, потихоньку подходит к концу. Все мы уже наигрались с «галлюцинациями» больших языковых моделей и поняли, что для серьёзных дел одной лишь магии нейросетей недостаточно. Бизнес хочет предсказуемости, врачи — объяснений, а инженеры — надёжности. И вот тут на сцену снова выходят старые, проверенные временем принципы — логика, правила и структура. Нет, это не значит, что мы возвращаемся назад, к громоздким экспертным системам из 80-х. Это значит, что мы наконец-то научились их «женить» с мощью нейронных сетей. В этой статье мы без хайпа и маркетинговой шелухи разберём, что такое нейро-символический подход. Это не просто очередной модный термин, а, возможно, следующий большой шаг в эволюции ИИ. Мы пройдёмся по всей истории: вспомним, почему «зимы ИИ» были на самом деле полезны, как нейронная революция перевернула игру, и почему сегодня все так носятся с идеей гибридных систем. Посмотрим на реальные примеры из медицины, финансов и промышленности, где этот подход уже не теория, а рабочая лошадка. Разберём главные тренды 2025 года и поговорим о том, чего стоит бояться на самом деле. В общем, это лонгрид для тех, кто хочет понять не только, что умеет современный ИИ, но и как он устроен под капотом и почему он развивается именно так, а не иначе.

https://habr.com/ru/articles/943686/

#нейросимволический_ИИ #гибридный_искусственный_интеллект #история_ии #объяснимый_ИИ #ии_в_медицине #ИИ_в_финансах #генеративный_ии #будущее_искусственного_интеллекта #ИИагенты #машинное_обучение

Серия: «Железный разум: взлёты и падения ИИ»Статья 1: От калькулятора до нейросетей — вся правда об эволюции ИИ

Серия: "Железный разум: взлёты и падения ИИ"Статья 1: От калькулятора до нейросетей — вся правда об эволюции ИИ Кажется, эпоха, когда ИИ был просто «чёрным ящиком», который выдавал ответы по никому не понятному наитию, потихоньку подходит к концу. Все мы уже наигрались с «галлюцинациями» больших языковых моделей и поняли, что для серьёзных дел одной лишь магии нейросетей недостаточно. Бизнес хочет предсказуемости, врачи — объяснений, а инженеры — надёжности. И вот тут на сцену снова выходят старые, проверенные временем принципы — логика, правила и структура. Нет, это не значит, что мы возвращаемся назад, к громоздким экспертным системам из 80-х. Это значит, что мы наконец-то научились их «женить» с мощью нейронных сетей. В этой статье мы без хайпа и маркетинговой шелухи разберём, что такое нейро-символический подход. Это не просто очередной модный термин, а, возможно, следующий большой шаг в эволюции ИИ. Мы пройдёмся по всей истории: вспомним, почему «зимы ИИ» были на самом деле полезны, как нейронная революция перевернула игру, и почему сегодня все так носятся с идеей гибридных систем. Посмотрим на реальные примеры из медицины, финансов и промышленности, где этот подход уже не теория, а рабочая лошадка. Разберём главные тренды 2025 года и поговорим о том, чего стоит бояться на самом деле. В общем, это лонгрид для тех, кто хочет понять не только, что умеет современный ИИ, но и как он устроен под капотом и почему он развивается именно так, а не иначе.

https://habr.com/ru/articles/943686/

#нейросимволический_ИИ #гибридный_искусственный_интеллект #история_ии #объяснимый_ИИ #ии_в_медицине #ИИ_в_финансах #генеративный_ии #будущее_искусственного_интеллекта #ИИагенты #машинное_обучение

Серия: «Железный разум: взлёты и падения ИИ»Статья 1: От калькулятора до нейросетей — вся правда об эволюции ИИ

Серия: "Железный разум: взлёты и падения ИИ"Статья 1: От калькулятора до нейросетей — вся правда об эволюции ИИ Кажется, эпоха, когда ИИ был просто «чёрным ящиком», который выдавал ответы по никому не понятному наитию, потихоньку подходит к концу. Все мы уже наигрались с «галлюцинациями» больших языковых моделей и поняли, что для серьёзных дел одной лишь магии нейросетей недостаточно. Бизнес хочет предсказуемости, врачи — объяснений, а инженеры — надёжности. И вот тут на сцену снова выходят старые, проверенные временем принципы — логика, правила и структура. Нет, это не значит, что мы возвращаемся назад, к громоздким экспертным системам из 80-х. Это значит, что мы наконец-то научились их «женить» с мощью нейронных сетей. В этой статье мы без хайпа и маркетинговой шелухи разберём, что такое нейро-символический подход. Это не просто очередной модный термин, а, возможно, следующий большой шаг в эволюции ИИ. Мы пройдёмся по всей истории: вспомним, почему «зимы ИИ» были на самом деле полезны, как нейронная революция перевернула игру, и почему сегодня все так носятся с идеей гибридных систем. Посмотрим на реальные примеры из медицины, финансов и промышленности, где этот подход уже не теория, а рабочая лошадка. Разберём главные тренды 2025 года и поговорим о том, чего стоит бояться на самом деле. В общем, это лонгрид для тех, кто хочет понять не только, что умеет современный ИИ, но и как он устроен под капотом и почему он развивается именно так, а не иначе.

https://habr.com/ru/articles/943686/

#нейросимволический_ИИ #гибридный_искусственный_интеллект #история_ии #объяснимый_ИИ #ии_в_медицине #ИИ_в_финансах #генеративный_ии #будущее_искусственного_интеллекта #ИИагенты #машинное_обучение