За последний год искусственный интеллект в работе некоммерческих организаций стал популярным и востребованным рабочим инструментом. Открытый онлайн-опрос «Гонорары и зарплаты в НКО», который Кухня НКО провела осенью-зимой 2025-2026 года показал: 85% организаций средне-активно вовлекают ИИ в работу. Нейросети помогают писать грантовые заявки, анализировать обращения, готовить отчеты, вести документооборот, обслуживать CRM, создавать иллюстрации, вести коммуникации с донорами и отвечать на вопросы благополучателей.

Но вместе с новыми возможностями появляются новые риски. И большинство из них связано не с самими технологиями, а с тем, как люди решают их использовать. Разбираемся, каких ошибок стоит избегать, а какие практики становятся нормой в ответственном и безопасном использовании ИИ.

Ежедневно в новостной повестке фигурирует искусственный интеллект. Сообщения о людях, которые излишне доверяют советам нейросетей, соседствуют с новостями о новых моделях, рекордных инвестициях и технологиях. А почти 3/4 нового контента в мире создается с помощью искусственного интеллекта (по данным на май 2025 года). Вопрос больше не в том, стоит ли использовать ИИ, а в том, как делать это ответственно.

Основная проблема сектора в сфере этичной работы с нейросетями заключается в нехватке опыта: НКО только осваивают новые технологии, и многие процессы формируются на ходу. Сотрудники организаций могут активно применять ИИ в повседневных задачах, но правила такой работы зачастую нигде не закреплены — ни в редакционной политике, ни во внутренних регламентах, ни в документах, регулирующих обращение с данными и коммуникацию с благополучателями.

Мы собрали семь сценариев, в которых использование ИИ становится не просто неэффективным, а потенциально неэтичным.

1. Начинать работать с ИИ без подготовки команды

У многих организаций знакомство с искусственным интеллектом начинается с ожидания быстрого результата. Кажется, что достаточно открыть нейросеть, оформить запрос — и проблема будет решена. Но на практике неосторожное использование ИИ может создавать дополнительные риски как для самой организации, так и для ее благополучателей.

«Есть заблуждение, что ИИ — это какая-то волшебная кнопка, которая всё разрулит», — говорит Мария Соловьева, руководитель подпрограммы «ИИ в НКО» программы «Кухня НКО» фонда «Добрый город Петербург». Именно завышенные ожидания часто становятся источником ошибок. Одни организации разочаровываются в технологии после первых неудачных экспериментов. Другие, наоборот, начинают доверять ей слишком сильно, не имея достаточного понимания ее возможностей и ограничений.

Между тем ответственная работа с ИИ требует не только доступа к технологиям, но и определенного уровня подготовки сотрудников. Команда должна понимать, как устроены нейросети, где они могут ошибаться, какие данные нельзя передавать в публичные сервисы и почему ответы ИИ требуют проверки. Такие знания можно получать через обучение, внутренний обмен опытом или самостоятельное изучение инструментов.

Кроме того, внедрение ИИ почти всегда требует дополнительных ресурсов. «Есть ещё одно заблуждение — что для полноценной поддержки рабочих задач за ИИ не нужно платить. Но часто нужна комбинация нескольких сервисов от разных провайдеров. Это подразумевает оплату подписок, лицензий, токенов. По-хорошему ИИ стоит рассматривать как новую статью расходов в бюджете НКО», — отмечает Мария Соловьева.

Поэтому проблема недостаточной подготовки быстро становится не только этической, но и организационной. Использование ИИ требует инвестиций в обучение сотрудников, поддержку сервисов, разработку внутренних правил и контроль качества результатов. Без этого нейросеть рискует превратиться не в помощника, а в источник ошибок и рисков.

2. Забыть, что за данными стоят живые люди

Для многих НКО данные — это прежде всего личная информация: истории болезней, семейные кризисы, случаи насилия, финансовые трудности, обращения людей в тяжелой жизненной ситуации. Именно поэтому работа с персональными данными становится одним из главных этических вызовов при использовании ИИ.

«Граница стирается, когда люди по незнанию или намеренно пренебрегают рисками, связанными с загрузкой в ИИ персональной, чувствительной, конфиденциальной информации», — говорит Мария Соловьева.

Сергей Карпенко, сооснователь онлайн-сервиса рекомендательного рекрутмента iRecommendWork, директор по внедрению ИИ и AI-эксперт, добавляет: особую осторожность нужно соблюдать при работе с данными детей, пациентов, людей с инвалидностью и жертв насилия. Даже если имя человека удалено, в небольшом сообществе его можно узнать по деталям истории. Поэтому принцип здесь простой: в публичную нейросеть не должно попадать ничего такого, что нельзя было бы безопасно опубликовать в интернете.

3. Скрывать от людей, что с ними общается ИИ

Чем лучше становятся языковые модели, тем легче имитировать живое общение. И тем важнее становится прозрачность. По словам Алексея Мокеева, директора Института социальных инноваций и трансфера технологий, благополучатель должен понимать, разговаривает он с человеком или с алгоритмом. Иначе возникает риск ложных ожиданий, а в кризисных ситуациях это может привести к дополнительной травматизации.

Эта практика уже считается международным стандартом ответственного использования ИИ. Человек должен понимать, что перед ним не живой консультант, а цифровой сервис, знать, с какими вопросами тот может помочь и в каких ситуациях его возможностей недостаточно. Поэтому организациям важно не только маркировать ИИ-сервисы, но и объяснять пользователям, как получить поддержку специалиста, если она необходима. Пользователь должен понимать, что окончательное решение остается за человеком. Честность помогает сохранить доверие и удержать вашего сторонника.

4. Передавать алгоритму решения о судьбе людей

Из предыдущего пункта вытекает другая проблема. Одна из самых опасных ловушек заключается в том, что ИИ постепенно перестает быть инструментом и начинает восприниматься как субъект принятия решений.

Алексей Мокеев считает это одним из ключевых рисков: «Самый серьёзный риск — незаметное и неосмысленное смещение от ИИ как инструмента в рутине к ИИ, проникающему в принятие решений».

Нельзя позволять искусственному интеллекту принимать решения о том, кому помогать, кому отказывать, какой совет давать человеку в кризисной ситуации или какую медицинскую рекомендацию считать верной. «Нельзя полностью отдавать ИИ решения, которые прямо влияют на судьбу человека», — подчёркивает Сергей Карпенко.

5. Перестать проверять ответы нейросети

Проблема современных языковых моделей заключается в том, что они умеют звучать уверенно даже тогда, когда ошибаются. «Если запрос выходит за пределы знаний человека, специалист скажет: “Мне нужно уточнить”. А плохо обученная нейросеть будет до последнего изображать, что знает правильный ответ», — говорит Алексей Мокеев.

Для НКО последствия такой ошибки могут оказаться серьезнее, чем для бизнеса. Если рекламный текст содержит неточность, это неприятно. Если ошибается сервис, связанный с медициной, социальной помощью или юридической поддержкой, последствия могут напрямую затронуть жизнь человека.

Поэтому одним из ключевых принципов ответственного использования ИИ становится human-in-the-loop — обязательное участие человека в принятии решений и проверке ответов. Как отмечает Мария Соловьева, именно эта практика постепенно становится нормой для сектора: человек оценивает результат, проверяет факты, ищет галлюцинации модели и принимает финальное решение.

6. Использовать ИИ для эмоциональных манипуляций

Фандрайзинг всегда связан с эмоциями. Но между эмпатией и манипуляцией существует граница. ИИ способен многократно масштабировать эмоциональное воздействие: генерировать драматичные истории, создавать изображения, усиливать тревогу и чувство вины. Поэтому особенно интересны случаи, когда организации заранее обсуждают подобные риски.

Так поступил благотворительный фонд «Почёт», который использовал нейросети при создании проекта «Коробочка храбрости» для помощи детям с онкологическими заболеваниями. Команда сознательно отказалась от изображений реальных детей и тяжелых историй, которые могли бы давить на эмоции аудитории. Вместо этого коммуникация строилась через позитивную метафору «Страны храбрости». Сотрудники фонда придумали механику, при которой человек выбирает цифровую игрушку-помощника для детей, проходящих лечение, и «пополняет» коробочку этой игрушки. Таким образом ушли от модели «вызывать жалость, чтобы мотивировать к пожертвованию» к модели осмысленного участия через позитивный выбор.

Внутри команды отдельно обсуждались риски потери эмоциональной подлинности при использовании ИИ, манипулятивного воздействия и неоднозначной интерпретации визуальных образов. Все решения фиксировались и проходили дополнительную проверку. Этот кейс показывает, что этика не возникает автоматически, ее нужно проектировать так же тщательно, как интерфейс или архитектуру продукта.

7. Внедрить ИИ и не договориться о правилах

Пожалуй, самый недооцененный риск — отсутствие внутренних правил. Между тем именно наличие понятной политики помогает снизить большинство рисков. По словам Марии Соловьевой, наиболее ответственным подходом можно считать ситуацию, когда организация формирует собственную ИИ-политику и сотрудники осознанно соблюдают ее требования. Такая тенденция станет следующим этапом взросления сектора. «Мы в «Добрый город Петербург» постепенно идем к общей внутренней фондовой ИИ-политике, по пути закрепляя разного рода этические нормы. В международной практике исследования отмечают, что не больше четверти или трети крупных НКО разработали и внедрили такие политики», — добавляет Мария Соловьева.

ИИ-политика может включать:

– перечень допустимых для ИИ задач. Или перечень задач, точно закрепленных за человеком. Сергей Карпенко: «Польза ИИ в контексте конкретной организации может быть заранее неизвестна. Поэтому ограничение на варианты использования будут контрпродуктивны. А вот установить рамки того, что обязательно должно остаться за человеком, возможно практически всегда. Даже, если эти рамки будут позже смещаться».

– правила работы с данными;

– процедуры проверки результатов;

– требования к маркировке ИИ-контента;

– порядок действий при ошибках системы.

Хороший пример такого подхода можно увидеть и в проектах, связанных с медициной.

Так, эксперты премии «ИИ в НКО» отметили решение фонда «Не напрасно» — чат-бот, который помогает людям находить информацию об онкологических заболеваниях. По словам Алексея Мокеева и Сергея Карпенко, важным преимуществом проекта стали заранее заданные этические ограничения: бот работает на основе проверенной базы знаний, не ставит диагнозы, не назначает лечение и прямо сообщает пользователю, что не заменяет врача.

Сегодня трудно представить организацию — коммерческую или благотворительную — которая совсем не экспериментирует с нейросетями. Но между осознанным внедрением технологии и погоней за трендом существует большая разница. «Самая частая ошибка — внедрять ИИ не от задачи, а от инструмента: давайте что-нибудь сделаем с нейросетью», — говорит Сергей Карпенко.

Поэтому начинать стоит не с выбора очередного сервиса, а с понимания проблемы, которую нужно решить. Не менее важно оценивать результат: действительно ли ИИ помогает экономить время и ресурсы, улучшает процессы и повышает качество работы. А еще честно понимать границы технологии и оставлять за человеком контроль там, где цена ошибки особенно высока.

Сам по себе ИИ не делает организацию ни лучше, ни хуже. Он лишь усиливает существующие практики. Если в центре работы остаются уважение к человеку, прозрачность и профессиональная ответственность, нейросети могут освободить время сотрудников от рутины и расширить доступ к помощи. Если же организация начинает экономить на проверке фактов, человеческом участии и защите данных, технология быстро превращается в источник новых рисков.

Именно поэтому сегодня сектор обсуждает не только возможности искусственного интеллекта, но и правила его применения. Этой теме будет посвящена онлайн-конференция «ИИ в работе НКО: как действовать эффективно и этично», которая пройдёт 16 июня. На ней объявят победителей премии «ИИ в НКО» и представят практические кейсы организаций, которые уже ищут баланс между технологическими возможностями и ответственностью перед людьми.