20 ноября, во Всемирный день ребёнка, Lamoda меняет работу онлайн-примерки, входящей в экосистему «Г(ии)д по стилю». Теперь сервис будет проверять загруженные фотографии и в некоторых случаях отказываться от создания нового изображения. Новые правила разработаны при участии экспертов благотворительной организации «Тебе поверят».
Искусственный интеллект всё чаще используют в ритейле: он помогает покупателям находить подходящие товары, подбирать размеры и «примерять» одежду онлайн ещё до покупки. Онлайн- примерка Lamoda «Г(ии)д по стилю» позволяет выбрать понравившуюся вещь и загрузить фотографию, на основе которой генеративный ИИ создаёт новое изображение человека в выбранной одежде.
Возможность создавать и изменять изображения с помощью генеративного ИИ открывает новые возможности для онлайн-коммерции, однако вместе с ними появляются и риски, особенно когда речь идёт о детских фотографиях. Забота о безопасности детей в интернете не должна ограничиваться усилиями родителей. Им постоянно советуют следить за тем, какие фотографии публикуют дети, кому их отправляют и какими приложениями пользуются, но даже самые внимательные родители не могут контролировать всё, что происходит с детьми в цифровой среде.
Часть ответственности должны брать на себя компании, которые разрабатывают технологии и устанавливают правила их использования. Они могут не только предупреждать пользователей о рисках, но и ограничивать работу своих сервисов, например запрещать генеративному искусственному интеллекту создавать новые изображения на основе определённых фотографий.
Именно такие ограничения 20 ноября Lamoda добавляет в онлайн-примерку. Теперь перед созданием нового изображения фотографию проверяют две модели ИИ. Одна определяет, может ли на снимке быть ребёнок, а другая проверяет, нет ли на фотографии откровенного или другого чувствительного содержимого. Если обе проверки срабатывают, сервис отказывается создавать новое изображение. Виртуальная примерка Lamoda не рассчитана на детей младше 12 лет.
«Мы привыкли говорить о цифровой безопасности детей через ответственность родителей: что ребенку можно смотреть, какие фотографии публиковать, кому их отправлять. Но по мере развития ИИ ответственность появляется и на стороне технологий. Нам важно, чтобы сервис сам учитывал контекст, в котором работает, и имел понятные границы допустимого. Поэтому мы продолжаем развивать #cтрашноважно в цифровой среде. Для нас принципиально, чтобы технологии помогали решать повседневные задачи, не создавая при этом небезопасных сценариев для детей», – комментирует Татьяна Умряева, управляющий директор по продукту и данным Lamoda.
Проект #страшноважно благотворительная организация «Тебе поверят» запустила в 2021 году, чтобы привлечь внимание к проблеме сексуализированного насилия над детьми и подростками и способам его предотвращения.
В 2023 году к проекту присоединилась Lamoda. Вместе с экспертами «Тебе поверят» компания разработала рекомендации по использованию фотографий детей в каталогах товаров, ввела дополнительную проверку изображений детей в отзывах покупателей и поделилась рекомендациями с другими участниками модной индустрии.
Теперь совместная работа касается не только фотографий, которые публикуются на торговой площадке, но и того, как искусственный интеллект может использовать и изменять изображения. Теперь Lamoda меняет и работу онлайн-примерки, чтобы безопасность детей зависела не только от действий пользователей, но и от того, как устроен сервис.
О благотворительной организации «Тебе поверят»
«Тебе поверят» бесплатно оказывает психологическую и юридическую помощь людям, пережившим сексуализированное насилие в детстве и подростковом возрасте. Организация также консультирует родителей и близких, делится знаниями со специалистами, проводит просветительские кампании и помогает компаниям разрабатывать правила и подходы к защите детей. Cсылки на соцсети Тебе Поверят
ТГ https://t.me/tebepoveriat
ВК https://vk.ru/dadaverimtebe

