Anthropic раскрыла масштаб злонамеренного использования ИИ и усилила защиту

Anthropic выявила случаи использования моделей Claude Haiku, Sonnet и Opus. Более защищенные модели Fable и Mythos почти не применялись. Исключение составил один случай дистилляции. Злоумышленники действовали из разных стран. Среди них государственные группы, финансово мотивированные преступники, коммерческие поставщики шпионского ПО и политические активисты. Все они нарушали правила использования сервиса. Одни применяли модель для написания кода. Другие использовали ее для анализа данных. Третьи общались с жертвами через ИИ. Некоторые дробили задачи на мелкие части. Так они пытались обойти защиту.

Главная тенденция - ИИ резко снижает порог для злоумышленников. Раньше сложные атаки требовали команды опытных специалистов. Теперь даже одиночки могут проводить массовые кампании. Искусственный интеллект автоматизирует разведку, эксплуатацию уязвимостей и утечку данных. Например, группа ShinyHunters использовала ИИ для кражи данных у десятков организаций. Другая группа применяла модель для автоматизации фишинга. Таким образом, ИИ уравнивает возможности государственных и криминальных групп. Это делает атаки быстрее и масштабнее. Кроме того, снижаются затраты на проведение операций. ИИ позволяет одновременно атаковать множество целей. Он также помогает создавать более убедительные фишинговые сообщения. Автоматизация позволяет злоумышленникам работать круглосуточно. Кроме того, ИИ помогает быстрее находить уязвимости в системах. Это ускоряет подготовку атак.

Среди выявленных кампаний, по данным отчета Anthropic, иранские группы использовали Claude для слежки за диссидентами и создания пропаганды. Китайские группы применяли модель для сбора данных об уйгурах и религиозных общинах. Также обнаружены коммерческие платформы для манипуляции выборами в Малайзии. Кампании влияния зафиксированы в Кении, Бангладеш и других странах. Все они применяли ИИ для создания фейковых новостей и аккаунтов в социальных сетях. Кроме того, выявлена сеть фейковых приложений для знакомств. Более 4700 ИИ-персон общались с 25 тысячами пользователей. Они выдавали себя за реальных людей. Также была платформа для массового перехвата данных в Мали. Она позволяла отслеживать миллионы SIM-карт. Иранские группы строили системы для профилирования пользователей соцсетей. Китайские группы создавали инструменты для слежки за диаспорой. Кампании влияния были нацелены на выборы и политические кризисы. Также выявлены случаи использования ИИ для создания поддельных документов и голосового клонирования.

Отдельное внимание уделено биологическим и оружейным угрозам. Anthropic выявила попытки использовать Claude для планирования экспериментов с опасными вирусами. Один исследователь пытался усилить патогенность вируса чикунгунья. Другой работал над адаптацией птичьего гриппа к млекопитающим. Также зафиксированы случаи разработки программного обеспечения для ракет и дронов. Например, группа из Йемена создавала системы наведения. Китайские специалисты работали над системами радиоэлектронной борьбы. Компания заблокировала эти аккаунты. Она также внедрила новые фильтры для выявления опасных запросов. Биологические угрозы включают работу с вирусами, которые могут вызвать пандемию. Оружейные - разработку дронов-камикадзе и систем наведения. Некоторые запросы касались создания биологического оружия. В одном случае исследователь пытался скрыть истинные цели работы. Все это требует срочных мер.

Еще одна серьезная проблема - незаконная дистилляция. Китайские лаборатории, включая Alibaba, DeepSeek, Moonshot и другие, пытались украсть возможности Claude. Они использовали тысячи поддельных аккаунтов для сбора ответов модели. Затем эти данные применялись для обучения собственных ИИ. Alibaba провела крупнейшую атаку. За два месяца зафиксировано более 151 миллиона запросов. DeepSeek и Moonshot перенаправляли запросы пользователей в Claude. При этом они не уведомляли своих клиентов. Это создавало риски утечки конфиденциальных данных. Anthropic пресекла эти кампании и усилила защиту от подобных атак. Дистилляция позволяет конкурентам экономить годы разработки. Это угрожает лидерству в области ИИ. Anthropic теперь требует подтверждения личности для подозрительных аккаунтов.

Anthropic подчеркивает, что безопасность ИИ требует совместных усилий. Компания продолжит улучшать свои системы обнаружения. Она также призывает к проверке пользователей и контролю доступа. Только так можно предотвратить опасное использование мощных моделей. Кроме того, необходимы международные нормы и сотрудничество между разработчиками, властями и обществом. Текущие меры уже дают результаты. Однако злоумышленники постоянно ищут новые обходные пути. Поэтому защита должна развиваться так же быстро, как и сами технологии. Необходим баланс между открытостью и безопасностью. Компания продолжит делиться данными с правоохранителями. Она также призывает другие лаборатории следовать ее примеру.

IPv4

• 103.124.165.199
• 103.141.60.144
• 103.216.220.19
• 104.145.210.184
• 104.193.135.207
• 104.194.149.228
• 104.194.151.133
• 104.194.159.55
• 104.36.50.54
• 136.144.242.56
• 138.199.6.208
• 138.199.60.29
• 139.59.2.243
• 141.133.125.208
• 144.172.114.192
• 146.103.101.253
• 146.103.97.169
• 146.70.116.131
• 148.135.195.111
• 149.22.83.6
• 149.54.42.106
• 157.180.93.7
• 158.173.46.118
• 162.128.129.106
• 163.172.157.53
• 167.235.157.100
• 167.250.111.136
• 176.177.12.62
• 178.16.54.141
• 185.198.234.101
• 185.198.234.26
• 185.65.134.199
• 185.65.134.246
• 193.32.249.161
• 193.32.249.164
• 193.32.249.170
• 194.163.183.216
• 195.178.110.131
• 2.26.53.194
• 202.66.167.230
• 213.145.86.112
• 23.88.118.216
• 31.57.243.154
• 34.156.199.132
• 34.156.95.176
• 37.27.103.22
• 38.129.138.244
• 38.146.28.132
• 38.146.28.75
• 45.148.10.242
• 46.225.91.180
• 46.62.214.3
• 91.171.138.169
• 91.99.117.166
• 92.118.39.3

IPv6

• 2001:ac8:27:89::a02d
• 2001:ac8:29:84::a01d
• 2001:bc8:711:5854:dc00:1ff:fe18:ba53
• 2a01:e0a:2e2:aa40:b15d:5d28:6f4a:8d53
• 2a04:cec0:1185:34f2:a150:7081:caed:448e

Domain

• ad-g.org
• alwatanalakbar.com
• api.stuseamandesilt.org
• archat.us
• ari-chain.com
• arichain.network
• autoshop.policenationale.cc
• awstore.cloud
• aws-us-east-3.com
• axumvoices.org
• bbsteknoloji.com
• bitmart-mystery.com
• british-daily.com
• cdn.stuseamandesilt.org
• cdncounter.net
• chamber-ua.org
• chathamhouse.eu
• civicpulse.info
• commonwealth-post.com
• defi-claim.xyz
• docs-viewer.org
• echoberlin.info
• elpulsopopular.com
• emailsecure.email
• esvfecawvjmchjslqyemho2fiduc59wzn.oast.fun
• fafwatch.xyz
• fiftystates.news
• file.archat.us
• frntrs-analytics.dedyn.io
• frntrs-analytics-863060591218.europe-west1.run.app
• heyhru.com
• holdboost.store
• itechx.tel
• iymkjuzymkapovrntoxy.supabase.co
• jambojournal.org
• kiro.cheap
• m365-owa.com
• malaysiapulse.com
• managedkafka.heyhru-server.cloud.goog
• meridiangroup-corp.com
• meridian-protocol.org
• metricwave.org
• mgsend.org
• mozilla.ws
• ms365-device.com
• ms365-live.com
• mslivetest.duckdns.org
• mygreatmarket.com
• mygreatmarket.org
• my-invite.org
• naijapulse.org
• on-pssword.com
• owa-ms365.com
• pakssarzameen.org
• pdfviewer2024.b-cdn.net
• policenationale.cc
• prod-artfkt.com
• projectnightcrawler.dev
• russianearabroad.com
• russianearabroad.org
• russianway.info
• service-infos.info
• signin-1psswoord.com
• sitin.ai
• soraki.cc
• soraki.work
• soraki-proxy.20245aad98d27b1b1a2f0f103e1d7ee0.workers.dev
• static.cdncounter.net
• static-ms.live
• statistic-ms.live
• stuseamandesilt.org
• sys-tools.cfd
• teams.ms365-live.com
• ukrinform-share.net
• update.stuseamandesilt.org
• updatebeacon.duckdns.org
• voiceoftherejuvenation.com
• wa-connect.eu
• wa-meeting.com
• zion-pulse.com

Onion Domain

• 3ell6n47y3ct4a3x67fbuz62q2mk2l4vo6eacho2suzftdshsnrfopyd.onion
• 6mshbvhvzhdgumwwazf4jcep2xx4kdk6n4wgffc46msu2gc3j3t2fpad.onion

URL

• https://s3.eu-central-1.s4.mega.io/fuckyoubasil/
• https://t.me/anti_silent
• https://t.me/ATodaPotencia
• https://t.me/FWR_ir
• https://t.me/jomhouri_democratic
• https://t.me/Soraki_Bot
• https://www.instagram.com/faryade_mamnoo
• https://www.instagram.com/fwr.ir
• https://www.instagram.com/iranpayam_tehran5
• https://www.instagram.com/javanane_shargt
• https://www.instagram.com/jomhouri_democratic
• https://www.instagram.com/khabar_fouri_mardom
• https://www.instagram.com/tehranchekhabar19
• https://www.youtube.com/@malaysiapulseof
• https://x.com/adriansantodo
• https://x.com/armsam1209
• https://x.com/avihoue
• https://x.com/AxumVoices
• https://x.com/berlin_echo
• https://x.com/bmmyangels
• https://x.com/britishdaily_
• https://x.com/Chikmore
• https://x.com/Civicpulsemedia
• https://x.com/cmwthpost
• https://x.com/elpulsopopular
• https://x.com/exceiivier
• https://x.com/Fiftystatesnews
• https://x.com/fuxingmedia
• https://x.com/garyponce
• https://x.com/goldsteve1
• https://x.com/hugolaurent
• https://x.com/journaljambo
• https://x.com/kioskou
• https://x.com/Naijapulse_
• https://x.com/PSarzameeninfo
• https://x.com/RussianWayMedia
• https://x.com/saudinews966
• https://x.com/SHIHAN1947
• https://x.com/telkisoszoba
• https://x.com/zionpulse

Email

• anna.manager@russianearabroad.net
• events@embassy-protocol.int

SHA256

• 918fa52ae45ed60ba7cc8bdc99c3cbe9ab92e0375ec31fc05d0d4513be11c593
• be99857449d2856dd5a84e21c8a3d5e0e01456adb44062ddec5a6b4970d8d42c