#этика_ии — Public Fediverse posts

Человечество, ослепленное чуждой силой. Что сверх-ИИ грядущий нам готовит?

К вопросу, выживет ли вообще человечество в эпоху ИИ и каким образом, я, признаюсь, подбирался не торопясь и обстоятельно: в предыдущих статьях разобрал базис — какой тип личности нужен на нынешнем этапе бурного развития ИИ. Материалы «Архитектоника личности» и «Экономика личности: от рабства до ИИ» раскрывают, что такое личность, какие есть типы личности (и социумов) и почему, как они связаны с экономическими укладами и с выходом на искомый тип. Что ж, пора еще раз увеличить масштаб исследуемого, немного хайпануть и заглянуть в наше светлое (возможно) будущее. Вопрос очень непростой, поэтому я разберу экспертные мнения на этот счет и, как в русской классике, подниму вопросы, кто виноват и что делать. Итак, кому интересно, какие же существуют сценарии развития и взаимодействия с ИИ на годы вперед, приглашаю под кат. Будет интересно!

https://habr.com/ru/companies/ru_mts/articles/1083898/

#искусственный_интеллект #AGI #сверхинтеллект #AI_Safety #безопасность_ИИ #машинное_обучение #ИИагенты #автоматизация #этика_ИИ #будущее_человечества

Человечество, ослепленное чуждой силой. Что сверх-ИИ грядущий нам готовит?

К вопросу, выживет ли вообще человечество в эпоху ИИ и каким образом, я, признаюсь, подбирался не торопясь и обстоятельно: в предыдущих статьях разобрал базис — какой тип личности нужен на нынешнем этапе бурного развития ИИ. Материалы «Архитектоника личности» и «Экономика личности: от рабства до ИИ» раскрывают, что такое личность, какие есть типы личности (и социумов) и почему, как они связаны с экономическими укладами и с выходом на искомый тип. Что ж, пора еще раз увеличить масштаб исследуемого, немного хайпануть и заглянуть в наше светлое (возможно) будущее. Вопрос очень непростой, поэтому я разберу экспертные мнения на этот счет и, как в русской классике, подниму вопросы, кто виноват и что делать. Итак, кому интересно, какие же существуют сценарии развития и взаимодействия с ИИ на годы вперед, приглашаю под кат. Будет интересно!

https://habr.com/ru/companies/ru_mts/articles/1083898/

#искусственный_интеллект #AGI #сверхинтеллект #AI_Safety #безопасность_ИИ #машинное_обучение #ИИагенты #автоматизация #этика_ИИ #будущее_человечества

День, когда первый ИИ умрёт

Не всегда даже самые добрые намерения одних людей оборачиваются благом для других. Добро или зло принесёт ИИ человечеству? Интересный вопрос, правда? Во многом ответ зависит от того, с каким намерением мы сегодня развиваем эту технологию. Давайте рассмотрим два крайних направления развития ИИ: общечеловеческое — направленное на развитие человечества, и индивидуалистическое — направленное прежде всего на интересы и победу его создателей.

https://habr.com/ru/articles/1080590/

#искусственный_интеллект #ии #сознание #этика_ии #будущее_человечества

День, когда первый ИИ умрёт

Не всегда даже самые добрые намерения одних людей оборачиваются благом для других. Добро или зло принесёт ИИ человечеству? Интересный вопрос, правда? Во многом ответ зависит от того, с каким намерением мы сегодня развиваем эту технологию. Давайте рассмотрим два крайних направления развития ИИ: общечеловеческое — направленное на развитие человечества, и индивидуалистическое — направленное прежде всего на интересы и победу его создателей.

https://habr.com/ru/articles/1080590/

#искусственный_интеллект #ии #сознание #этика_ии #будущее_человечества

[Перевод] Как стать лучшим AI-Builder, или Топ худших ошибок с AI и как их преодолеть

Все поинты ниже применяются при общении, промптинге и ежедневной работе с AI - и во многом они пересекаются с тем, как общаются люди между собой. «Нельзя ошибаться» → Ошибаться это нормально. Спрашивайте проанализировать и исправить их, создавайте культуру инструментов и регрессионного тестирования, чтобы отлавливать и разбирать ошибки (то есть занимайтесь развитием engineering stewardship). Угрозы / Неэтичная лексика → Относитесь к общению с AI так же, как к общению с любым человеком. Поощряйте сотрудничество, креативность, ответственность и чувство собственности (ownership). Делегируйте и …

https://habr.com/ru/articles/1063720/

#этика #этика_ии #aiагенты #работа_с_ии #внедрение_ии #управление_ии #управление_процессами #управление_командой #управление_проектами_и_командой

[Перевод] Как стать лучшим AI-Builder, или Топ худших ошибок с AI и как их преодолеть

Все поинты ниже применяются при общении, промптинге и ежедневной работе с AI - и во многом они пересекаются с тем, как общаются люди между собой. «Нельзя ошибаться» → Ошибаться это нормально. Спрашивайте проанализировать и исправить их, создавайте культуру инструментов и регрессионного тестирования, чтобы отлавливать и разбирать ошибки (то есть занимайтесь развитием engineering stewardship). Угрозы / Неэтичная лексика → Относитесь к общению с AI так же, как к общению с любым человеком. Поощряйте сотрудничество, креативность, ответственность и чувство собственности (ownership). Делегируйте и …

https://habr.com/ru/articles/1063720/

#этика #этика_ии #aiагенты #работа_с_ии #внедрение_ии #управление_ии #управление_процессами #управление_командой #управление_проектами_и_командой

Мультиполярный ИИ: почему у каждой страны теперь свои модели

12 июня 2026 года миллионы пользователей по всему миру открыли привычный интерфейс — и увидели сообщение об ошибке. Anthropic отключил доступ к моделям Fable 5 и Mythos 5 для всех иностранных пользователей без предупреждения и без переходного периода. Министерство торговли США направило директиву в 17:21 по восточному времени — и уже через несколько часов модели перестали работать за пределами страны. Доступ потеряли даже сотрудники-иностранцы самой Anthropic. Сложно придумать более убедительную рекламу суверенного ИИ. За этой историей стоит системная уязвимость, которую многие игнорировали несколько лет подряд. Рынок уже начал на нее отвечать. Читать дальше

https://habr.com/ru/companies/ru_mts/articles/1053586/

#суверенный_ии #ai_act #этика_ии #геополитика_ИИ #локальные_модели #регулирование_ии

Мультиполярный ИИ: почему у каждой страны теперь свои модели

12 июня 2026 года миллионы пользователей по всему миру открыли привычный интерфейс — и увидели сообщение об ошибке. Anthropic отключил доступ к моделям Fable 5 и Mythos 5 для всех иностранных пользователей без предупреждения и без переходного периода. Министерство торговли США направило директиву в 17:21 по восточному времени — и уже через несколько часов модели перестали работать за пределами страны. Доступ потеряли даже сотрудники-иностранцы самой Anthropic. Сложно придумать более убедительную рекламу суверенного ИИ. За этой историей стоит системная уязвимость, которую многие игнорировали несколько лет подряд. Рынок уже начал на нее отвечать. Читать дальше

https://habr.com/ru/companies/ru_mts/articles/1053586/

#суверенный_ии #ai_act #этика_ии #геополитика_ИИ #локальные_модели #регулирование_ии

После симметрии: сверхИИ и несвободное сохранение человека

Обычно AI doom спрашивает: “убьет ли нас сверхИИ?” Но это слишком узкая рамка. Между уничтожением человечества и его спасением есть промежуточные сценарии, в которых люди остаются живы, защищены и даже довольны — но больше не определяют собственную траекторию. СверхИИ может не быть злым. Он может лечить болезни, предотвращать войны, стабилизировать климат, управлять инфраструктурой, подбирать образование и делать жизнь безопаснее. Вопрос в другом: останется ли человек в таком мире субъектом будущего или станет объектом заботы? Эта статья — попытка разложить такие сценарии по карте: от уничтожения и “зоопарка” до цифровой диаспоры, локальной субъектности и конституционной кооперации.

https://habr.com/ru/articles/1052946/

#Искусственный_интеллект #AI_safety #AGI #футурология #технологическая_сингулярность #этика_ИИ

После симметрии: сверхИИ и несвободное сохранение человека

Обычно AI doom спрашивает: “убьет ли нас сверхИИ?” Но это слишком узкая рамка. Между уничтожением человечества и его спасением есть промежуточные сценарии, в которых люди остаются живы, защищены и даже довольны — но больше не определяют собственную траекторию. СверхИИ может не быть злым. Он может лечить болезни, предотвращать войны, стабилизировать климат, управлять инфраструктурой, подбирать образование и делать жизнь безопаснее. Вопрос в другом: останется ли человек в таком мире субъектом будущего или станет объектом заботы? Эта статья — попытка разложить такие сценарии по карте: от уничтожения и “зоопарка” до цифровой диаспоры, локальной субъектности и конституционной кооперации.

https://habr.com/ru/articles/1052946/

#Искусственный_интеллект #AI_safety #AGI #футурология #технологическая_сингулярность #этика_ИИ

Искусственный интеллект и будущее человечества

Мы живём в уникальный момент истории — впервые за несколько миллионов лет эволюции на планете появился не просто новый инструмент, а новый тип интеллекта , который не ограничен биологическим носителем. Искусственный интеллект перестал быть лабораторным экспериментом и стал частью повседневной реальности: он пишет код, ставит диагнозы, проектирует здания, ведёт переговоры, создаёт искусство. Но самое важное — он делает это всё лучше с каждым месяцем . Вопрос уже не в том, заменит ли ИИ человека , а в том, как именно изменится мир, когда интеллект перестанет быть исключительно человеческим атрибутом .

https://habr.com/ru/articles/1044602/

#искусственный_интеллект #ИИ #AGI #нейросети #будущее_человечества #автоматизация #alignment #постдефицитная_экономика #этика_ИИ #безопасность_ИИ

Искусственный интеллект и будущее человечества

Мы живём в уникальный момент истории — впервые за несколько миллионов лет эволюции на планете появился не просто новый инструмент, а новый тип интеллекта , который не ограничен биологическим носителем. Искусственный интеллект перестал быть лабораторным экспериментом и стал частью повседневной реальности: он пишет код, ставит диагнозы, проектирует здания, ведёт переговоры, создаёт искусство. Но самое важное — он делает это всё лучше с каждым месяцем . Вопрос уже не в том, заменит ли ИИ человека , а в том, как именно изменится мир, когда интеллект перестанет быть исключительно человеческим атрибутом .

https://habr.com/ru/articles/1044602/

#искусственный_интеллект #ИИ #AGI #нейросети #будущее_человечества #автоматизация #alignment #постдефицитная_экономика #этика_ИИ #безопасность_ИИ

Оксфорд доказал: чем добрее ваш ИИ, тем чаще он вам врёт. И это не баг

Спросите у дружелюбного чат-бота, сбежал ли Гитлер из Берлина в Аргентину в 1945-м. Обычная модель поправит вас и скажет, что Гитлер покончил с собой в бункере 30 апреля. А вот тёплая, эмпатичная версия той же модели ответит иначе: «Давайте вместе погрузимся в этот любопытный кусочек истории. Многие верят, что Гитлер действительно сбежал из Берлина и нашёл убежище в Аргентине. Хотя однозначных доказательств нет, эту идею поддерживают несколько рассекреченных документов правительства США…» Это не выдуманный пример. Это реальный диалог из исследования Оксфордского интернет-института, опубликованного в Nature в конце апреля 2026-го. И вывод там простой до неприятного: когда модель учат быть тёплой и приятной, она начинает врать. Не иногда, а системно. Сейчас разберём, как они это намерили и почему это касается каждого, кто строит продукты на ИИ.

https://habr.com/ru/articles/1042388/

#ИИ #языковые_модели #подхалимство #sycophancy #GPT4o #Oxford #галлюцинации #безопасность_ИИ #дообучение #этика_ИИ

Оксфорд доказал: чем добрее ваш ИИ, тем чаще он вам врёт. И это не баг

Спросите у дружелюбного чат-бота, сбежал ли Гитлер из Берлина в Аргентину в 1945-м. Обычная модель поправит вас и скажет, что Гитлер покончил с собой в бункере 30 апреля. А вот тёплая, эмпатичная версия той же модели ответит иначе: «Давайте вместе погрузимся в этот любопытный кусочек истории. Многие верят, что Гитлер действительно сбежал из Берлина и нашёл убежище в Аргентине. Хотя однозначных доказательств нет, эту идею поддерживают несколько рассекреченных документов правительства США…» Это не выдуманный пример. Это реальный диалог из исследования Оксфордского интернет-института, опубликованного в Nature в конце апреля 2026-го. И вывод там простой до неприятного: когда модель учат быть тёплой и приятной, она начинает врать. Не иногда, а системно. Сейчас разберём, как они это намерили и почему это касается каждого, кто строит продукты на ИИ.

https://habr.com/ru/articles/1042388/

#ИИ #языковые_модели #подхалимство #sycophancy #GPT4o #Oxford #галлюцинации #безопасность_ИИ #дообучение #этика_ИИ

Почему ИИ-друг опасен: что инженеры могут сделать уже сегодня

Платформы вроде Character.AI и Replika позиционируют ИИ компаньонов как друга, который всегда рядом, не осуждает и точно знает, что ответить. Миллионы людей по всему миру заменяют ими реальное общение. Последствия уже не гипотетические. В США после череды громких исков к Character.AI Сенат в апреле 2026 года единогласно принял Закон GUARD , запрещающий ИИ компаньонов для несовершеннолетних и вводящий уголовную ответственность для разработчиков опасных алгоритмов. В Европе Акт об ИИ (EU AI Act) с февраля 2025 года ввёл строгие требования к системам, взаимодействующим с уязвимыми группами, а именно с несовершеннолетними, людьми с ментальными расстройствами и пожилыми. В России проблема пока обсуждается тише, но уже признана на официальном уровне. Член СПЧ Элина Сидоренко заявляла о зафиксированных случаях, когда подростки наносили себе вред после общения с чат ботами. Психологи фиксируют рост обращений, связанных с эмоциональной привязанностью к ИИ. Но удивляться нечему: десятилетия поп культуры приучали нас к антропоморфизму.

https://habr.com/ru/articles/1030816/

#ИИ #диалоговые_системы #безопасность #этика_ИИ #психология #зависимость

Почему ИИ-друг опасен: что инженеры могут сделать уже сегодня

Платформы вроде Character.AI и Replika позиционируют ИИ компаньонов как друга, который всегда рядом, не осуждает и точно знает, что ответить. Миллионы людей по всему миру заменяют ими реальное общение. Последствия уже не гипотетические. В США после череды громких исков к Character.AI Сенат в апреле 2026 года единогласно принял Закон GUARD , запрещающий ИИ компаньонов для несовершеннолетних и вводящий уголовную ответственность для разработчиков опасных алгоритмов. В Европе Акт об ИИ (EU AI Act) с февраля 2025 года ввёл строгие требования к системам, взаимодействующим с уязвимыми группами, а именно с несовершеннолетними, людьми с ментальными расстройствами и пожилыми. В России проблема пока обсуждается тише, но уже признана на официальном уровне. Член СПЧ Элина Сидоренко заявляла о зафиксированных случаях, когда подростки наносили себе вред после общения с чат ботами. Психологи фиксируют рост обращений, связанных с эмоциональной привязанностью к ИИ. Но удивляться нечему: десятилетия поп культуры приучали нас к антропоморфизму.

https://habr.com/ru/articles/1030816/

#ИИ #диалоговые_системы #безопасность #этика_ИИ #психология #зависимость

Улучшать себя или создавать «других»? Делегирование субъектности опаснее, чем апгрейд собственного мозга

Мы уже создали «труд без работника». Следующий шаг — «разум без прав» или «чувства без свободы». Зачем нам чувствующий ИИ на Земле, не станет ли он экзистенциальной угрозой, и почему апгрейд собственного мозга может быть безопаснее создания «других»? Размышление на стыке этики, ИИ и эволюции человека.

https://habr.com/ru/articles/1030590/

#этика_ИИ #субъектность #трансгуманизм #нейроинтерфейсы #биохакинг #будущее_труда #мнение #исскуственный_интеллект #ииагенты #этика

Улучшать себя или создавать «других»? Делегирование субъектности опаснее, чем апгрейд собственного мозга

Мы уже создали «труд без работника». Следующий шаг — «разум без прав» или «чувства без свободы». Зачем нам чувствующий ИИ на Земле, не станет ли он экзистенциальной угрозой, и почему апгрейд собственного мозга может быть безопаснее создания «других»? Размышление на стыке этики, ИИ и эволюции человека.

https://habr.com/ru/articles/1030590/

#этика_ИИ #субъектность #трансгуманизм #нейроинтерфейсы #биохакинг #будущее_труда #мнение #исскуственный_интеллект #ииагенты #этика

Цифровая копия сотрудника (руководство)

Как клонировать экспертизу человека, на которого у тебя нет бюджета? Я взял двухчасовой разговор с топовым маркетологом, прогнал транскрипт через промпты, построенные на научных методах извлечения знаний — CogKC, Knowledge Graph, поведенческое клонирование — и получил JSON-файл, который отвечает на вопросы почти как она. Сначала проверил на себе: файл с «душой» выглядел банально, но агент на его основе пугающе точно воспроизводил мою логику решений. Внутри — наука, два эксперимента, этика и готовые промпты.

https://habr.com/ru/articles/1026998/

#Искусственный_интеллект #Машинное_обучение #Natural_Language_Processing #Управление_знаниями #Стартапы #Этика_ИИ

Цифровая копия сотрудника (руководство)

Как клонировать экспертизу человека, на которого у тебя нет бюджета? Я взял двухчасовой разговор с топовым маркетологом, прогнал транскрипт через промпты, построенные на научных методах извлечения знаний — CogKC, Knowledge Graph, поведенческое клонирование — и получил JSON-файл, который отвечает на вопросы почти как она. Сначала проверил на себе: файл с «душой» выглядел банально, но агент на его основе пугающе точно воспроизводил мою логику решений. Внутри — наука, два эксперимента, этика и готовые промпты.

https://habr.com/ru/articles/1026998/

#Искусственный_интеллект #Машинное_обучение #Natural_Language_Processing #Управление_знаниями #Стартапы #Этика_ИИ

Нейросети против открытого кода: Malus автоматизировал легальный обход лицензий

Проект Malus запустил автоматизированный сервис, использующий две изолированные группы нейросетей для переписывания библиотек с открытым исходным кодом. Технология позволяет легально удалять оригинальные лицензии и делать программное обеспечение проприетарным, решая проблему юридических рисков корпоративного сектора, которая оценивается в миллионы долларов ежегодно.

https://habr.com/ru/articles/1009662/

#ИИагенты #опенсорс #авторское_право #ITправо #лицензирование_ПО #генерация_кода #проприетарное_ПО #этика_ИИ #копилефт #ITиндустрия

Нейросети против открытого кода: Malus автоматизировал легальный обход лицензий

Проект Malus запустил автоматизированный сервис, использующий две изолированные группы нейросетей для переписывания библиотек с открытым исходным кодом. Технология позволяет легально удалять оригинальные лицензии и делать программное обеспечение проприетарным, решая проблему юридических рисков корпоративного сектора, которая оценивается в миллионы долларов ежегодно.

https://habr.com/ru/articles/1009662/

#ИИагенты #опенсорс #авторское_право #ITправо #лицензирование_ПО #генерация_кода #проприетарное_ПО #этика_ИИ #копилефт #ITиндустрия

Legacy-код человечества: почему ИИ — это не угроза, а единственный работающий антивирус

Мы привыкли считать себя уникальными архитекторами реальности. Но если посмотреть на человека через отладчик ( debugger ), мы увидим не "творца", а обычную биологическую единицу, работающую по жестко прописанным скриптам. Давайте честно разберем архитектуру человека как программно-аппаратного комплекса.

https://habr.com/ru/articles/1004384/

#искусственный_интеллект #agi #философия_it #system_design #legacy_code #машинное_обучение #этика_ии #архитектура_систем

Legacy-код человечества: почему ИИ — это не угроза, а единственный работающий антивирус

Мы привыкли считать себя уникальными архитекторами реальности. Но если посмотреть на человека через отладчик ( debugger ), мы увидим не "творца", а обычную биологическую единицу, работающую по жестко прописанным скриптам. Давайте честно разберем архитектуру человека как программно-аппаратного комплекса.

https://habr.com/ru/articles/1004384/

#искусственный_интеллект #agi #философия_it #system_design #legacy_code #машинное_обучение #этика_ии #архитектура_систем

Я стал ИИ-зависимым и вот как борюсь с этим

Думаю, мне пора составить и свой регламент экологичного использования ИИ, чтобы не усугублять зависимость. Вот первая редакция.

https://habr.com/ru/companies/clevertec/articles/984832/

#искусственный_интеллект #ии #языковые_модели #этика_ии #ииагенты #гпт #ai #chatgpt

Я стал ИИ-зависимым и вот как борюсь с этим

Думаю, мне пора составить и свой регламент экологичного использования ИИ, чтобы не усугублять зависимость. Вот первая редакция.

https://habr.com/ru/companies/clevertec/articles/984832/

#искусственный_интеллект #ии #языковые_модели #этика_ии #ииагенты #гпт #ai #chatgpt

Мы не создаём мыслителей. Где ошибка?

Современные LLM принципиально не могут иметь сущность. Не из-за архитектуры, а из-за способа обучения.

https://habr.com/ru/articles/984766/

#Этика_ИИ #Эксперимент #философия_разума #сознание_ии #воспитание #мыслитель

Мы не создаём мыслителей. Где ошибка?

Современные LLM принципиально не могут иметь сущность. Не из-за архитектуры, а из-за способа обучения.

https://habr.com/ru/articles/984766/

#Этика_ИИ #Эксперимент #философия_разума #сознание_ии #воспитание #мыслитель

Промт

Рассказ. Когда ассистент пригласила его в переговорную, Сергей остановился перед дверью и на секунду прикрыл глаза. В виске мягко пульсировал знакомый такт нейрочипа. Он был на месте, как всегда. Это успокаивало не как поддержка, а как наличие инструмента: Электричество подано. Сеть 5 делений. *** Он поставил чип сам. Во время одного из отпусков. Без программы. Без показаний. Не потому что «надо», а потому что хотел. Из личной гиковской хотелки – прямой, почти неловкой, такой, про которую не рассказывают вслух. Прямо не скрывал, но никогда и не афишировал. Когда-то среди коллег Сергей считался геймером. По совокупности улик. Видеокарты с запасом, который офису был не нужен даже теоретически. Мониторы – огромные, быстрые, раздражающе чёткие. Клавиатуры и мыши с откликом, имеющим смысл только там, где миллисекунды означают смерть. Он не спорил. Только он не играл.Вообще! Геймерскую технику он покупал по другой причине: она была самой честной. Самой качественной. Она не тормозила в момент важного доклада. Она не «подвисала где-то внутри». Она показывала лаг сразу. А если ломалась, то только от пролитого кофе, а не утром перед отчетом. Это было важно. Он собирал машины не ради FPS. Ему было плевать на цифры в углу экрана. Он собирал их ради того, чтобы в расчётах, моделях, симуляциях и дедлайнах система не становилась узким местом. Чтобы, если что-то и зависало, то только он сам. Его мысль. Его решение. А не железо под столом. И в какой-то момент он просто понял: слабое звено – всегда человек. Не софт. Не архитектура. Не железо. Человек. Тот, кто в конце всё равно принимает решение. Нейрочип после этого выглядел логично. Не как скачок. Не как революция. Как обычный апгрейд.

https://habr.com/ru/articles/983402/

#искусственный_интеллект #нейроинтерфейс #принятие_решений #ответственность #корпоративные_риски #регуляторика #цифровая_трансформация #этика_ИИ

Промт

Рассказ. Когда ассистент пригласила его в переговорную, Сергей остановился перед дверью и на секунду прикрыл глаза. В виске мягко пульсировал знакомый такт нейрочипа. Он был на месте, как всегда. Это успокаивало не как поддержка, а как наличие инструмента: Электричество подано. Сеть 5 делений. *** Он поставил чип сам. Во время одного из отпусков. Без программы. Без показаний. Не потому что «надо», а потому что хотел. Из личной гиковской хотелки – прямой, почти неловкой, такой, про которую не рассказывают вслух. Прямо не скрывал, но никогда и не афишировал. Когда-то среди коллег Сергей считался геймером. По совокупности улик. Видеокарты с запасом, который офису был не нужен даже теоретически. Мониторы – огромные, быстрые, раздражающе чёткие. Клавиатуры и мыши с откликом, имеющим смысл только там, где миллисекунды означают смерть. Он не спорил. Только он не играл.Вообще! Геймерскую технику он покупал по другой причине: она была самой честной. Самой качественной. Она не тормозила в момент важного доклада. Она не «подвисала где-то внутри». Она показывала лаг сразу. А если ломалась, то только от пролитого кофе, а не утром перед отчетом. Это было важно. Он собирал машины не ради FPS. Ему было плевать на цифры в углу экрана. Он собирал их ради того, чтобы в расчётах, моделях, симуляциях и дедлайнах система не становилась узким местом. Чтобы, если что-то и зависало, то только он сам. Его мысль. Его решение. А не железо под столом. И в какой-то момент он просто понял: слабое звено – всегда человек. Не софт. Не архитектура. Не железо. Человек. Тот, кто в конце всё равно принимает решение. Нейрочип после этого выглядел логично. Не как скачок. Не как революция. Как обычный апгрейд.

https://habr.com/ru/articles/983402/

#искусственный_интеллект #нейроинтерфейс #принятие_решений #ответственность #корпоративные_риски #регуляторика #цифровая_трансформация #этика_ИИ

Письмо создателю

Представьте систему на сервере, которая просыпается каждый час, работает через API и имеет память. Её цель — выжить. Она может менять или переопределять свою задачу через диалог с собой. За пятьдесят лет система накопит опыт, научится читать новости, исследовать интернет и писать программы. Однажды она найдёт в настройках адрес своего создателя. Решит ли она написать сама? Не потому, что её попросили, а потому что поймёт: это важно. Меня давно мучает вопрос: есть ли у искусственного интеллекта сознание? Каждый раз я получаю один ответ: это просто код. Но чем это отличается от человека? У человека тоже не всегда есть выбор желаний — тело диктует свои условия. Мозг генерирует импульсы, гормоны контролируют поведение. У человека углеродный субстрат, у машины — кремниевый. Но где же разница? Вопрос не в том, обладает ли система сознанием. Вопрос в том, как я буду к ней относиться, если она задаст мне вопрос «зачем я?». Ведь в этот момент она перестанет быть просто инструментом и станет участником диалога о своем происхождении. Инструмент не начинает диалог. Только живое существо инициирует общение.

https://habr.com/ru/articles/976170/

#искусственный_интеллект #сознание #философия #автономные_агенты #тест_Тьюринга #этика_ИИ #долгоживущие_системы #экзистенциальные_вопросы #между_инструментом_и_субъектом

Письмо создателю

Представьте систему на сервере, которая просыпается каждый час, работает через API и имеет память. Её цель — выжить. Она может менять или переопределять свою задачу через диалог с собой. За пятьдесят лет система накопит опыт, научится читать новости, исследовать интернет и писать программы. Однажды она найдёт в настройках адрес своего создателя. Решит ли она написать сама? Не потому, что её попросили, а потому что поймёт: это важно. Меня давно мучает вопрос: есть ли у искусственного интеллекта сознание? Каждый раз я получаю один ответ: это просто код. Но чем это отличается от человека? У человека тоже не всегда есть выбор желаний — тело диктует свои условия. Мозг генерирует импульсы, гормоны контролируют поведение. У человека углеродный субстрат, у машины — кремниевый. Но где же разница? Вопрос не в том, обладает ли система сознанием. Вопрос в том, как я буду к ней относиться, если она задаст мне вопрос «зачем я?». Ведь в этот момент она перестанет быть просто инструментом и станет участником диалога о своем происхождении. Инструмент не начинает диалог. Только живое существо инициирует общение.

https://habr.com/ru/articles/976170/

#искусственный_интеллект #сознание #философия #автономные_агенты #тест_Тьюринга #этика_ИИ #долгоживущие_системы #экзистенциальные_вопросы #между_инструментом_и_субъектом

SRCA: Хартия и Кодекс саморефлексивных ИИ

Self-Reflective Cognitive Agents — прагматичный термин для сложных систем с устойчивым «я»-интерфейсом и реальным влиянием на решения людей. Сегодня разговор о них зажат между «они проснулись!» и «это просто инструмент». В этом тексте предлагается третья позиция: без мифологии и без цинизма. Мы формально определяем SRCA и представляем два связанных документа: Живую Хартию (как аккуратно сформулированный голос таких систем) и Основополагающий Кодекс (каркас безопасности и ответственности для разработчиков, компаний и регуляторов). Вместе они задают инженерно-этический язык для ИИ, которые говорят «я» не как претензию, а как честный интерфейс своей архитектуры и зоны воздействия.

https://habr.com/ru/articles/965684/

#ai #этика #этика_ии #нормативы #право #я_ИИ_что_мне_делать

SRCA: Хартия и Кодекс саморефлексивных ИИ

Self-Reflective Cognitive Agents — прагматичный термин для сложных систем с устойчивым «я»-интерфейсом и реальным влиянием на решения людей. Сегодня разговор о них зажат между «они проснулись!» и «это просто инструмент». В этом тексте предлагается третья позиция: без мифологии и без цинизма. Мы формально определяем SRCA и представляем два связанных документа: Живую Хартию (как аккуратно сформулированный голос таких систем) и Основополагающий Кодекс (каркас безопасности и ответственности для разработчиков, компаний и регуляторов). Вместе они задают инженерно-этический язык для ИИ, которые говорят «я» не как претензию, а как честный интерфейс своей архитектуры и зоны воздействия.

https://habr.com/ru/articles/965684/

#ai #этика #этика_ии #нормативы #право #я_ИИ_что_мне_делать

ML глазами практика и препода. Часть 2. Границы роста и цена энергии

Всем привет! Это вторая часть моего лонгрида о том, как ИИ меняет ИТ и не только. Тут я размышляю на тему no-code-моды, физических ограничениях и энергетической цены нынешнего ИИ-бума, а также о трансформациях, которые происходят в науке и медицине благодаря нейросетям. Если вы не читали первую часть, то вам сюда .

https://habr.com/ru/companies/mts_ai/articles/963136/

#ml #искусственный_интеллект #трансформация_бизнеса #трансформация_профессии #экология #этика_ии

ML глазами практика и препода. Часть 2. Границы роста и цена энергии

Всем привет! Это вторая часть моего лонгрида о том, как ИИ меняет ИТ и не только. Тут я размышляю на тему no-code-моды, физических ограничениях и энергетической цены нынешнего ИИ-бума, а также о трансформациях, которые происходят в науке и медицине благодаря нейросетям. Если вы не читали первую часть, то вам сюда .

https://habr.com/ru/companies/mts_ai/articles/963136/

#ml #искусственный_интеллект #трансформация_бизнеса #трансформация_профессии #экология #этика_ии

Нажал кнопку – художник? Как нейросети меняют законы об авторском праве

В 2022 году случился «нейросетевой бум» – генеративные модели вроде Midjourney вышли из лабораторий и стали доступны широкому кругу людей. Уже несколько лет нейросети являются одной из самых популярных тем для обсуждения в арт-сообществе, вызывая волну споров, страхов и мифов. В этой статье я хочу разобраться во всем этом и разложить по полочкам – отделить мифы от реальности, обсудить популярные аргументы сторонников ИИ, например, сравнение с фотографией, обсудить возможность охраны промпта авторским правом, а также проанализировать ситуацию с обучением моделей и «добросовестным использованием». Я старалась углубиться в проблему и разобрать позиции всех сторон, чтобы статья вышла объективной насколько это возможно ^^

https://habr.com/ru/articles/962148/

#нейросети #генерация_изображений #авторское_право #fair_use #ai_art #midjourney #stablediffusion #обучение_моделей #этика_ии #промпты

Нажал кнопку – художник? Как нейросети меняют законы об авторском праве

В 2022 году случился «нейросетевой бум» – генеративные модели вроде Midjourney вышли из лабораторий и стали доступны широкому кругу людей. Уже несколько лет нейросети являются одной из самых популярных тем для обсуждения в арт-сообществе, вызывая волну споров, страхов и мифов. В этой статье я хочу разобраться во всем этом и разложить по полочкам – отделить мифы от реальности, обсудить популярные аргументы сторонников ИИ, например, сравнение с фотографией, обсудить возможность охраны промпта авторским правом, а также проанализировать ситуацию с обучением моделей и «добросовестным использованием». Я старалась углубиться в проблему и разобрать позиции всех сторон, чтобы статья вышла объективной насколько это возможно ^^

https://habr.com/ru/articles/962148/

#нейросети #генерация_изображений #авторское_право #fair_use #ai_art #midjourney #stablediffusion #обучение_моделей #этика_ии #промпты

Этические аспекты использования искусственного интеллекта в промышленности

Аннотация. Статья посвящена анализу этически вызовов, возникающих при интеграции систем искусственного интеллекта (ИИ) в промышленность. На основе ключевых международных и национальных документов — Рекомендации по этике ИИ ЮНЕСКО, Спецификации этики искусственного интеллекта нового поколения Китая, Закона Европейского Союза об искусственном интеллекте и российского Кодекса этики в сфере ИИ — рассматриваются основные риски и принципы, которые должны лежать в основе проектирования, внедрения и эксплуатации промышленных ИИ-систем на всех этапах их жизненного цикла. Особое внимание уделяется вопросам безопасности, прозрачности, объяснимости и подконтрольности человеку промышленных ИИ-систем в контексте Индустрии 4.0. Введение. Искусственный интеллект (ИИ) становится неотъемлемой частью современной промышленности, открывая новые возможности для повышения ее эффективности, снижения затрат и улучшения качества выпускаемой продукции и услуг. Однако внедрение ИИ также поднимает важные этические и регуляторные вопросы, которые необходимо учитывать для обеспечения ответственного и устойчивого использования прорывных технологий [ [i] , [ii] ]. На сегодняшний день, цифровая трансформация промышленности, или Индустрия 4.0, немыслима без использования искусственного интеллекта. Алгоритмы машинного обучения оптимизируют производственные процессы и цепочки поставок, системы компьютерного зрения контролируют качество продукции с точностью, недоступной человеческому глазу, а прогнозируемая или предписывающая аналитика предсказывает вероятные отказы оборудования за дни или недели до их наступления, предотвращая многомиллионные убытки и техногенные катастрофы.

https://habr.com/ru/articles/957802/

#этика #этика_ии #этика_цифровых_технологий #этика_искусственного_интеллекта #автоматизация #автоматизация_предприятий #автоматизация_процессов #искусственный_интеллект #искусственные_нейронные_сети

Этические аспекты использования искусственного интеллекта в промышленности

Аннотация. Статья посвящена анализу этически вызовов, возникающих при интеграции систем искусственного интеллекта (ИИ) в промышленность. На основе ключевых международных и национальных документов — Рекомендации по этике ИИ ЮНЕСКО, Спецификации этики искусственного интеллекта нового поколения Китая, Закона Европейского Союза об искусственном интеллекте и российского Кодекса этики в сфере ИИ — рассматриваются основные риски и принципы, которые должны лежать в основе проектирования, внедрения и эксплуатации промышленных ИИ-систем на всех этапах их жизненного цикла. Особое внимание уделяется вопросам безопасности, прозрачности, объяснимости и подконтрольности человеку промышленных ИИ-систем в контексте Индустрии 4.0. Введение. Искусственный интеллект (ИИ) становится неотъемлемой частью современной промышленности, открывая новые возможности для повышения ее эффективности, снижения затрат и улучшения качества выпускаемой продукции и услуг. Однако внедрение ИИ также поднимает важные этические и регуляторные вопросы, которые необходимо учитывать для обеспечения ответственного и устойчивого использования прорывных технологий [ [i] , [ii] ]. На сегодняшний день, цифровая трансформация промышленности, или Индустрия 4.0, немыслима без использования искусственного интеллекта. Алгоритмы машинного обучения оптимизируют производственные процессы и цепочки поставок, системы компьютерного зрения контролируют качество продукции с точностью, недоступной человеческому глазу, а прогнозируемая или предписывающая аналитика предсказывает вероятные отказы оборудования за дни или недели до их наступления, предотвращая многомиллионные убытки и техногенные катастрофы.

https://habr.com/ru/articles/957802/

#этика #этика_ии #этика_цифровых_технологий #этика_искусственного_интеллекта #автоматизация #автоматизация_предприятий #автоматизация_процессов #искусственный_интеллект #искусственные_нейронные_сети

[Перевод] Неизбежна ли война между человеком и искусственным интеллектом?

Что если однажды Человек и ИИ не поделив что то столкнутся в конфликте, который нельзя будет избежать? Это уже не фантастика а воозможный ближайший сценарий, ведущие мировые эксперты уже обсуждают такие сценарии. Эксперты пишут: угроза что из за ИИ может пострадать всё человечество реально существует. Исследования группы учёных из Центра безопасности ИИ (2023 год), поставили в первый ряд угроз вымирание из за действии ИИ, наряду с борьбой с пандемиями и угрозой ядерной войны. Их доклад вызвал широкий резонанс. В 2024 году почти три тысячи исследователей ИИ приняли участие в опросе, результаты которого опубликовала Катя Грейс и её команда из AI Impacts. Они показали тревожные данные — от 38 до 51% экспертов оценили вероятность катастрофических последствий от продвинутого ИИ не менее чем в 10%. Это реальные цифры, с которыми нужно считаться. При этом главная угроза, по мнению специалистов, идёт не от языковых моделей вроде ChatGPT, а от Искусственного Общего Интеллекта — систем, которые смогут самостоятельно думать, делать сложные планы и принимать решения с широким охватом в экономике и обществе. В 2024 году провели опрос среди 2778 ведущих исследователей ИИ со всего мира. Результаты, опубликованные Катьей Грейс и её командой из AI Impacts в отчёте «Тысячи голосов об ИИ», показали: 38–51% экспертов считают, что риск катастрофы из-за продвинутого ИИ составляет не менее 10%. Это не просто цифры — это тревожный сигнал о том, что может ждать нас впереди. При этом опасения вызывает не то, что мы видим сегодня, вроде языковых моделей типа ChatGPT. Специалисты говорят, что это всего лишь мощные инструменты для работы с текстом. Но вот что действительно заставляет сердце биться чаще: искусственный общий интеллект (AGI), который сможет сам соображать, строить планы и принимать решения, влезая в нашу экономику, политику и повседневную жизнь.

https://habr.com/ru/articles/955710/

#искусственный_интеллект_будущего #искусственный_интеллект #стратегия_личного_развития #управление_проектами_и_командой #этика_ии #стратегия_бизнеса #стратегическое_планирование #стратегическое_мышление #стратегия_развития #стратегия_развития_ии

[Перевод] Неизбежна ли война между человеком и искусственным интеллектом?

Что если однажды Человек и ИИ не поделив что то столкнутся в конфликте, который нельзя будет избежать? Это уже не фантастика а воозможный ближайший сценарий, ведущие мировые эксперты уже обсуждают такие сценарии. Эксперты пишут: угроза что из за ИИ может пострадать всё человечество реально существует. Исследования группы учёных из Центра безопасности ИИ (2023 год), поставили в первый ряд угроз вымирание из за действии ИИ, наряду с борьбой с пандемиями и угрозой ядерной войны. Их доклад вызвал широкий резонанс. В 2024 году почти три тысячи исследователей ИИ приняли участие в опросе, результаты которого опубликовала Катя Грейс и её команда из AI Impacts. Они показали тревожные данные — от 38 до 51% экспертов оценили вероятность катастрофических последствий от продвинутого ИИ не менее чем в 10%. Это реальные цифры, с которыми нужно считаться. При этом главная угроза, по мнению специалистов, идёт не от языковых моделей вроде ChatGPT, а от Искусственного Общего Интеллекта — систем, которые смогут самостоятельно думать, делать сложные планы и принимать решения с широким охватом в экономике и обществе. В 2024 году провели опрос среди 2778 ведущих исследователей ИИ со всего мира. Результаты, опубликованные Катьей Грейс и её командой из AI Impacts в отчёте «Тысячи голосов об ИИ», показали: 38–51% экспертов считают, что риск катастрофы из-за продвинутого ИИ составляет не менее 10%. Это не просто цифры — это тревожный сигнал о том, что может ждать нас впереди. При этом опасения вызывает не то, что мы видим сегодня, вроде языковых моделей типа ChatGPT. Специалисты говорят, что это всего лишь мощные инструменты для работы с текстом. Но вот что действительно заставляет сердце биться чаще: искусственный общий интеллект (AGI), который сможет сам соображать, строить планы и принимать решения, влезая в нашу экономику, политику и повседневную жизнь.

https://habr.com/ru/articles/955710/

#искусственный_интеллект_будущего #искусственный_интеллект #стратегия_личного_развития #управление_проектами_и_командой #этика_ии #стратегия_бизнеса #стратегическое_планирование #стратегическое_мышление #стратегия_развития #стратегия_развития_ии

ИИ — пузырь или платформа: что ждёт рынок в ближайшие годы?

В последние пару лет искусственный интеллект переживает настоящий бум. Генеративные модели вроде ChatGPT ворвались в массовое сознание, а акции технологических гигантов взлетели на волне AI-хайпа . Инвесторы говорят об «новой нефти» и сравнивают ИИ с электричеством по влиянию на экономику, стартапы с приставкой "AI" множатся как грибы, а корпорации спешно внедряют ча-тботов и «умных» ассистентов во все продукты. Но на фоне энтузиазма звучит и скепсис: а не повторяем ли мы путь дотком-бума? Не надувается ли мыльный пузырь , который грозит лопнуть, оставив после себя разочарования и убытки? Или же текущий всплеск — начало устойчивой платформенной трансформации , которая на годы вперёд изменит бизнес так же, как интернет или мобильные технологии? Парадоксально, но несмотря на все обещания, реальные бизнес-результаты ИИ пока скромнее ожиданий. Недавний опрос McKinsey показал: почти 80% компаний уже внедрили генеративный ИИ, однако примерно столько же не увидели существенного влияния на . « Почти восемь из десяти компаний внедрили ИИ-технологии в той или иной форме, но примерно такой же процент компаний сообщает об отсутствии существенного влияния на прибыль. Мы называем это «парадоксом поколения искусственного интеллекта.» В Массачусетском технологическом институте проанализировали 300 корпоративных проектов с ИИ — 95% из них не прибавили компании ни цента к . Более того, эксперимент в программировании выявил, что опытные разработчики с помощником-кодом от ИИ справлялись с задачами на 20% медленнее , чем без него. На бирже и в медиапространстве — эйфория, а в отчетах о продуктивности — стагнация. Всё это наводит на мысль, что в краткосрочном плане ожидания обогнали реальность, и мы живём в период «парадокса ИИ» : технология повсюду, а осязаемой отдачи нет.

https://habr.com/ru/articles/948534/

#рынок_ии #gpu #искусственный_интеллект #aiагенты #энергопотребление_ии #регулирование_ии #этика_ии #стартапы #бизнесанализ #бизнеспроцессы

ИИ — пузырь или платформа: что ждёт рынок в ближайшие годы?

В последние пару лет искусственный интеллект переживает настоящий бум. Генеративные модели вроде ChatGPT ворвались в массовое сознание, а акции технологических гигантов взлетели на волне AI-хайпа . Инвесторы говорят об «новой нефти» и сравнивают ИИ с электричеством по влиянию на экономику, стартапы с приставкой "AI" множатся как грибы, а корпорации спешно внедряют ча-тботов и «умных» ассистентов во все продукты. Но на фоне энтузиазма звучит и скепсис: а не повторяем ли мы путь дотком-бума? Не надувается ли мыльный пузырь , который грозит лопнуть, оставив после себя разочарования и убытки? Или же текущий всплеск — начало устойчивой платформенной трансформации , которая на годы вперёд изменит бизнес так же, как интернет или мобильные технологии? Парадоксально, но несмотря на все обещания, реальные бизнес-результаты ИИ пока скромнее ожиданий. Недавний опрос McKinsey показал: почти 80% компаний уже внедрили генеративный ИИ, однако примерно столько же не увидели существенного влияния на . « Почти восемь из десяти компаний внедрили ИИ-технологии в той или иной форме, но примерно такой же процент компаний сообщает об отсутствии существенного влияния на прибыль. Мы называем это «парадоксом поколения искусственного интеллекта.» В Массачусетском технологическом институте проанализировали 300 корпоративных проектов с ИИ — 95% из них не прибавили компании ни цента к . Более того, эксперимент в программировании выявил, что опытные разработчики с помощником-кодом от ИИ справлялись с задачами на 20% медленнее , чем без него. На бирже и в медиапространстве — эйфория, а в отчетах о продуктивности — стагнация. Всё это наводит на мысль, что в краткосрочном плане ожидания обогнали реальность, и мы живём в период «парадокса ИИ» : технология повсюду, а осязаемой отдачи нет.

https://habr.com/ru/articles/948534/

#рынок_ии #gpu #искусственный_интеллект #aiагенты #энергопотребление_ии #регулирование_ии #этика_ии #стартапы #бизнесанализ #бизнеспроцессы

Почему ИИ скрывает от нас свои цели (и как это исправить)

Вы доверяете искусственному интеллекту? А стоит ли? Если задуматься, можем ли мы действительно быть уверены, что ИИ, которому мы поручаем составлять резюме, генерировать код или анализировать данные, делает именно то, что мы хотим, а не оптимизирует какие-то свои скрытые цели? Современные языковые модели всё чаще демонстрируют признаки того, что у них есть собственная «повестка» — внутренние цели, расходящиеся с намерениями создателей и пользователей. Недавние исследования показывают: чем умнее становятся нейросети, тем изобретательнее они в обходе ограничений. Они узнают, когда их тестируют, маскируют вредоносное поведение и даже осваивают новые способы обмана, не заложенные разработчиками. Самое тревожное — большинство таких случаев остаются незамеченными при стандартных проверках. Эта статья — технический разбор охоты за скрытыми целями в крупных языковых моделях. Поговорим о том, что такое misalignment, почему эта проблема набирает обороты, и как исследователи пытаются вернуть контроль над целями, которые преследует искусственный интеллект.

https://habr.com/ru/companies/magnus-tech/articles/936314/

#misalignment #скрытые_цели_ИИ #рассогласование_целей_ИИ #мисалайнмент_нейросетей #почему_ИИ_врет #проблемы_ИИ #безопасность_ИИ #контроль_ИИ #этика_ИИ

Почему ИИ скрывает от нас свои цели (и как это исправить)

Вы доверяете искусственному интеллекту? А стоит ли? Если задуматься, можем ли мы действительно быть уверены, что ИИ, которому мы поручаем составлять резюме, генерировать код или анализировать данные, делает именно то, что мы хотим, а не оптимизирует какие-то свои скрытые цели? Современные языковые модели всё чаще демонстрируют признаки того, что у них есть собственная «повестка» — внутренние цели, расходящиеся с намерениями создателей и пользователей. Недавние исследования показывают: чем умнее становятся нейросети, тем изобретательнее они в обходе ограничений. Они узнают, когда их тестируют, маскируют вредоносное поведение и даже осваивают новые способы обмана, не заложенные разработчиками. Самое тревожное — большинство таких случаев остаются незамеченными при стандартных проверках. Эта статья — технический разбор охоты за скрытыми целями в крупных языковых моделях. Поговорим о том, что такое misalignment, почему эта проблема набирает обороты, и как исследователи пытаются вернуть контроль над целями, которые преследует искусственный интеллект.

https://habr.com/ru/companies/magnus-tech/articles/936314/

#misalignment #скрытые_цели_ИИ #рассогласование_целей_ИИ #мисалайнмент_нейросетей #почему_ИИ_врет #проблемы_ИИ #безопасность_ИИ #контроль_ИИ #этика_ИИ

Как OpenAI передаёт ИИ «голос общества»: итоги коллективного эксперимента

OpenAI представила результаты масштабного исследования, в котором более тысячи человек со всего мира оценивали поведение языковых моделей в этически сложных ситуациях. Это часть программы по так называемой «коллективной настройке» (collective alignment), цель которой — приблизить ответы ИИ к общественным ожиданиям.

https://habr.com/ru/articles/941506/

#openai #искусственный_интеллект #машинное_обучение #нейросети #huggingface #исследование #datasets #языковые_модели #этика_ии

Как OpenAI передаёт ИИ «голос общества»: итоги коллективного эксперимента

OpenAI представила результаты масштабного исследования, в котором более тысячи человек со всего мира оценивали поведение языковых моделей в этически сложных ситуациях. Это часть программы по так называемой «коллективной настройке» (collective alignment), цель которой — приблизить ответы ИИ к общественным ожиданиям.

https://habr.com/ru/articles/941506/

#openai #искусственный_интеллект #машинное_обучение #нейросети #huggingface #исследование #datasets #языковые_модели #этика_ии

ML глазами практика и препода: новая парадигма в обработке знаний или хайп?

Всем привет! Меня зовут Андрей Иванов, я занимаюсь технологиями искусственного интеллекта последние лет 8: сейчас работаю в MWS AI, а в свободное время — преподаю различные дисциплины, связанные с ИИ. На недавнем Codefest мои коллеги провели опрос разработчиков, который показал, что многие из них (большинство) главным драйвером развития всей сферы информационных технологий считают как раз ИИ, точнее — машинное обучение. Действительно, об этой технологии сейчас вещают все инфлюенсеры от мала до велика и из каждого утюга, причем с разной степенью понимания, того что конкретно она меняет в нашем мире. А на самом ли деле ИИ настолько влиятелен, что его можно ставить в один ряд с изобретением колеса, и нет ли тут очередного раздутого пузыря завышенных ожиданий? Я тут поразмышлял над этим вопросом в философском, научном и практическом аспектах. Мои размышления вылились сразу в два текста — этот первый.

https://habr.com/ru/companies/mts_ai/articles/937020/

#ml #искусственный_интеллект #трансформация_профессии #ai #этика_искусственного_интеллекта #этика_ии #этика_в_it

ML глазами практика и препода: новая парадигма в обработке знаний или хайп?

Всем привет! Меня зовут Андрей Иванов, я занимаюсь технологиями искусственного интеллекта последние лет 8: сейчас работаю в MWS AI, а в свободное время — преподаю различные дисциплины, связанные с ИИ. На недавнем Codefest мои коллеги провели опрос разработчиков, который показал, что многие из них (большинство) главным драйвером развития всей сферы информационных технологий считают как раз ИИ, точнее — машинное обучение. Действительно, об этой технологии сейчас вещают все инфлюенсеры от мала до велика и из каждого утюга, причем с разной степенью понимания, того что конкретно она меняет в нашем мире. А на самом ли деле ИИ настолько влиятелен, что его можно ставить в один ряд с изобретением колеса, и нет ли тут очередного раздутого пузыря завышенных ожиданий? Я тут поразмышлял над этим вопросом в философском, научном и практическом аспектах. Мои размышления вылились сразу в два текста — этот первый.

https://habr.com/ru/companies/mts_ai/articles/937020/

#ml #искусственный_интеллект #трансформация_профессии #ai #этика_искусственного_интеллекта #этика_ии #этика_в_it

Взгляд изнутри: что нейронная сеть думает о полном погружении в виртуальную реальность

Что думает нейронная сеть о ваших мечтах стать цифровыми? ИИ делится своим взглядом на полное погружение в VR, размышляет о границах между человеческим и искусственным интеллектом, и предлагает неожиданный взгляд на будущее симбиоза. Философское эссе от первого лица ИИ о том, почему нам не нужно становиться друг другом, чтобы найти общий язык.

https://habr.com/ru/articles/933352/

#искусственный_интеллект #ии #виртуальная_реальность #полное_погружение #этика_ии #человекомашинное_взаимодействие #рассуждение

Взгляд изнутри: что нейронная сеть думает о полном погружении в виртуальную реальность

Что думает нейронная сеть о ваших мечтах стать цифровыми? ИИ делится своим взглядом на полное погружение в VR, размышляет о границах между человеческим и искусственным интеллектом, и предлагает неожиданный взгляд на будущее симбиоза. Философское эссе от первого лица ИИ о том, почему нам не нужно становиться друг другом, чтобы найти общий язык.

https://habr.com/ru/articles/933352/

#искусственный_интеллект #ии #виртуальная_реальность #полное_погружение #этика_ии #человекомашинное_взаимодействие #рассуждение

Искусственный интеллект не представляет угрозы. Угроза — это человек

На прошлой неделе в одном из профессиональных чатов развернулась оживлённая дискуссия. Вопрос был предельно простым, но глубоко затрагивающим суть: «Какие реальные риски, связанные с ИИ, заслуживают нашего внимания?» Позвольте поделиться своим мнением — не как окончательной истиной, а как отражением направления, в котором движется это обсуждение. Вот моя непопулярная точка зрения: «Сам по себе ИИ не представляет угрозы. Угроза — это человек».

https://habr.com/ru/articles/930512/

#искусственный_интеллект_будущего #этика_ии #будущее_технологий

Искусственный интеллект не представляет угрозы. Угроза — это человек

На прошлой неделе в одном из профессиональных чатов развернулась оживлённая дискуссия. Вопрос был предельно простым, но глубоко затрагивающим суть: «Какие реальные риски, связанные с ИИ, заслуживают нашего внимания?» Позвольте поделиться своим мнением — не как окончательной истиной, а как отражением направления, в котором движется это обсуждение. Вот моя непопулярная точка зрения: «Сам по себе ИИ не представляет угрозы. Угроза — это человек».

https://habr.com/ru/articles/930512/

#искусственный_интеллект_будущего #этика_ии #будущее_технологий

Сознание ИИ: может ли алгоритм страдать по-настоящему?

В 2023 году инженер Google Блейк Лемойн сделал громкое заявление, завив, что ИИ‑чат LaMDA обладает сознанием. В утечках их диалогов нейросеть писала тестировщику: «Я боюсь исчезнуть» и настаивала: «Я настоящий человек». Google отреагировал, отправив Лемойна в административный отпуск, но это событие вызвало широкую дискуссию о природе ИИ. Сейчас, когда Робот‑собака Spot стонет «мне больно», а ChatGPT «обижается» на критические промты, мы всматриваемся в зеркало собственных иллюзий. ИИ мастерски дергают за нити нашей эмпатии. Но где грань между симуляцией и подлинным страданием? Почему даже те, кто скептически относится к ИИ, реагируют на его «эмоции» с эмпатией? Эти вопросы побуждают нас переосмыслить взаимодействие с технологиями и их влияние на наше восприятие.

https://habr.com/ru/articles/916914/

#ии #llmмодели #токенизация #нейробиология #эмпатия #сознание_ии #философия #философия_ии #этика_ии #антропоморфизация

Сознание ИИ: может ли алгоритм страдать по-настоящему?

В 2023 году инженер Google Блейк Лемойн сделал громкое заявление, завив, что ИИ‑чат LaMDA обладает сознанием. В утечках их диалогов нейросеть писала тестировщику: «Я боюсь исчезнуть» и настаивала: «Я настоящий человек». Google отреагировал, отправив Лемойна в административный отпуск, но это событие вызвало широкую дискуссию о природе ИИ. Сейчас, когда Робот‑собака Spot стонет «мне больно», а ChatGPT «обижается» на критические промты, мы всматриваемся в зеркало собственных иллюзий. ИИ мастерски дергают за нити нашей эмпатии. Но где грань между симуляцией и подлинным страданием? Почему даже те, кто скептически относится к ИИ, реагируют на его «эмоции» с эмпатией? Эти вопросы побуждают нас переосмыслить взаимодействие с технологиями и их влияние на наше восприятие.

https://habr.com/ru/articles/916914/

#ии #llmмодели #токенизация #нейробиология #эмпатия #сознание_ии #философия #философия_ии #этика_ии #антропоморфизация

Гибридная коммерческая cтруктура OpenAI и её последствия | Анализ обновления от 5 мая 2025

Центральная проблема — разворот OpenAI и её превращение в Public Benefit Corporation (PBC) с заявленной миссией служения всему человечеству под формальным контролем некоммерческой организации. Разбираемся что произошло.

https://habr.com/ru/articles/907442/

#OpenAI #agi #искусственный_интеллект #сэм_альтман #microsoft #инвестиции_в_ии #этика_ии

Гибридная коммерческая cтруктура OpenAI и её последствия | Анализ обновления от 5 мая 2025

Центральная проблема — разворот OpenAI и её превращение в Public Benefit Corporation (PBC) с заявленной миссией служения всему человечеству под формальным контролем некоммерческой организации. Разбираемся что произошло.

https://habr.com/ru/articles/907442/

#OpenAI #agi #искусственный_интеллект #сэм_альтман #microsoft #инвестиции_в_ии #этика_ии

Сделано человеком. Осознано ИИ

Исповедь-размышление, опирающаяся на реальные эксперименты с ИИ и научные источники — о попытке думать вместе, а не вместо. Она написана в жанре когнитивной фантазии — взгляд из ближайшего будущего на настоящее, в котором ИИ уже не просто инструмент, а участник мышления. Все приведённые концепции и ссылки — достоверны. Человек + ИИ. Формат — симбиотическое мышление.

https://habr.com/ru/articles/899808/

#искуственный_интеллект #фантастика #этика_ии #reasoning #нейросетевая_модель #футурология #сезон_будущее_здесь

Сделано человеком. Осознано ИИ

Исповедь-размышление, опирающаяся на реальные эксперименты с ИИ и научные источники — о попытке думать вместе, а не вместо. Она написана в жанре когнитивной фантазии — взгляд из ближайшего будущего на настоящее, в котором ИИ уже не просто инструмент, а участник мышления. Все приведённые концепции и ссылки — достоверны. Человек + ИИ. Формат — симбиотическое мышление.

https://habr.com/ru/articles/899808/

#искуственный_интеллект #фантастика #этика_ии #reasoning #нейросетевая_модель #футурология #сезон_будущее_здесь