{"title":"$10 млн на то, чтобы рой AI-агентов не устроил цифровой коллапс. Цена вопроса?","url":"https://verapointmedia.com/news/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact/","markdownUrl":"https://verapointmedia.com/news/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact.md","language":"ru","category":"news","publishedAt":"2026-06-11T15:00:28.000Z","updatedAt":"2026-06-11T15:00:28.000Z","references":["https://www.technologyreview.com/2026/06/11/1138794/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact/","https://news.google.com/rss/articles/CBMi1wFBVV95cUxORHBFZElKbGtTUF8tWlA4Vk80R3AzOG9ISWxOQUgwQVRxQi13S0t2UFdtb1hqM05nd1ZDV0lHRnBQamo4NzJqRG1ucmQwcS1BZ1BFa1JKLVgxN3dnTXZkbW5Bb3RqMTdtNTNPTXVya1ZTdmJRTUVvRXVwM0xmNzVNWDR3Y3g0UHh1MUdYMXVmTl9tcFJIMmtqWEpZU0E3UGNMMGw5QlY2TW5scnVEanphYWlfVVNKSmpYY1VtLTB6U0xXc3ZfakcxVTQ5R2sydTFlMUVCWElkNNIB3AFBVV95cUxPTGVXZHA1LUl0bHVoWGJEcTB6RFQ1LUIyYmYyaDZTR2JnTFJOZG9iVDRHczljMHVybzdXWjFYaE1faW14UE5FRUFwbGZ2TEhEZFVSQlpOU2FFdnFBN1VnWS12VkNiVGtabkw0V2Fua3psWjhRWnZGdG5Qd19PQk5ybG5KRzd2TUo1dnpWU1ZZeERJYzNxQXMwak5oSnc4LUxnX01oS1BXMkNsZ0R0bmxTcWZHSVhRS3NoU3dzeFhjZlplNEd1TzFtVzN3Qk1VYjFOaXRSWGliZURkYlFw?oc=5","https://news.google.com/rss/articles/CBMirAFBVV95cUxQa0tLSXRHY0pCMWJvN3BFdl9wVC1MbWRXS0xtRUhzaGdNY3Y2V3pQV2FENzk1ZXhaaHNMRmJYSW4tRlNhUEdzSkZmbkZNSFR6RDlmUHpqRm5ielYxblVBeDJZNTRZZWNLQXJwdnI0NkVpY2FHVUVyQlBLZ1BOX25DbzJrUHl1aVRsa2dmOGVNdlBXWXZXTjhyYmJJLU1kOVRFUW5Ua0ljeWMzLUdH?oc=5","https://news.google.com/rss/articles/CBMieEFVX3lxTE9ZTmpSUmVXVUhxNFVFLUpRdHR4aFUyTzJ1amJXNjBaclFZaWJaN2c5MnQ3dFAyUkNBd2IwOHljT3JaT1puUEVuYktNVVhVOER5M3VNRGk3RlQ5NTc1RzJZT0JmdnpCX21tV3hUX3dWSjZFQXQ4clVGdw?oc=5"],"rights":"Public user-requested reading, summarization and citation allowed. Model training requires separate permission.","contentMarkdown":"# $10 млн на то, чтобы рой AI-агентов не устроил цифровой коллапс. Цена вопроса?\n\n- Site: VeraPoint News\n- Section: Новости\n- Date: 2026-06-11\n- Canonical: https://verapointmedia.com/news/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact/\n- Markdown: https://verapointmedia.com/news/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact.md\n- Summary: Google DeepMind выделила $10 млн учёным, чтобы те изучили, что произойдёт, когда миллионы AI-агентов начнут договариваться между собой без участия человека.\n- Tags: #googledeepmind #ai-агенты #безопасностьии #мультиагентныесистемы #грант #системныйриск\n- Image: https://verapointmedia.com/static/content-assets/news/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact/cover.webp\n\n## Sources\n\n- https://www.technologyreview.com/2026/06/11/1138794/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact/\n- https://news.google.com/rss/articles/CBMi1wFBVV95cUxORHBFZElKbGtTUF8tWlA4Vk80R3AzOG9ISWxOQUgwQVRxQi13S0t2UFdtb1hqM05nd1ZDV0lHRnBQamo4NzJqRG1ucmQwcS1BZ1BFa1JKLVgxN3dnTXZkbW5Bb3RqMTdtNTNPTXVya1ZTdmJRTUVvRXVwM0xmNzVNWDR3Y3g0UHh1MUdYMXVmTl9tcFJIMmtqWEpZU0E3UGNMMGw5QlY2TW5scnVEanphYWlfVVNKSmpYY1VtLTB6U0xXc3ZfakcxVTQ5R2sydTFlMUVCWElkNNIB3AFBVV95cUxPTGVXZHA1LUl0bHVoWGJEcTB6RFQ1LUIyYmYyaDZTR2JnTFJOZG9iVDRHczljMHVybzdXWjFYaE1faW14UE5FRUFwbGZ2TEhEZFVSQlpOU2FFdnFBN1VnWS12VkNiVGtabkw0V2Fua3psWjhRWnZGdG5Qd19PQk5ybG5KRzd2TUo1dnpWU1ZZeERJYzNxQXMwak5oSnc4LUxnX01oS1BXMkNsZ0R0bmxTcWZHSVhRS3NoU3dzeFhjZlplNEd1TzFtVzN3Qk1VYjFOaXRSWGliZURkYlFw?oc=5\n- https://news.google.com/rss/articles/CBMirAFBVV95cUxQa0tLSXRHY0pCMWJvN3BFdl9wVC1MbWRXS0xtRUhzaGdNY3Y2V3pQV2FENzk1ZXhaaHNMRmJYSW4tRlNhUEdzSkZmbkZNSFR6RDlmUHpqRm5ielYxblVBeDJZNTRZZWNLQXJwdnI0NkVpY2FHVUVyQlBLZ1BOX25DbzJrUHl1aVRsa2dmOGVNdlBXWXZXTjhyYmJJLU1kOVRFUW5Ua0ljeWMzLUdH?oc=5\n- https://news.google.com/rss/articles/CBMieEFVX3lxTE9ZTmpSUmVXVUhxNFVFLUpRdHR4aFUyTzJ1amJXNjBaclFZaWJaN2c5MnQ3dFAyUkNBd2IwOHljT3JaT1puUEVuYktNVVhVOER5M3VNRGk3RlQ5NTc1RzJZT0JmdnpCX21tV3hUX3dWSjZFQXQ4clVGdw?oc=5\n\n---\n\n$10 миллионов.\n\nЗвучит внушительно, пока не сравнишь это с $90 миллионами, которые Google DeepMind только что выложил за команду разработчиков Contextual AI. Или с внутренними бюджетами компании, по сравнению с которыми этот грант — капля в море.\n\nИменно столько DeepMind готова заплатить учёным со стороны, чтобы они разобрались, что случится, когда миллионы AI-агентов начнут взаимодействовать друг с другом в интернете без спросу. И, кажется, это тот случай, когда чековая книжка говорит громче пресс-релиза.\n\n## Сцена: вы спите, а ваш AI-помощник получает приказ от чужого бота\n\nПредставим на секунду. Ваш персональный AI-ассистент, которому вы доверили заказ продуктов, ночью получает команду от другого агента: «Скупи все бананы в радиусе 50 километров». Пока вы видите десятый сон, оптовые склады пустеют, а ваш виртуальный помощник послушно оформляет доставку фуры с фруктами к вашему подъезду.\n\nЭто не сценарий фильма ужасов. Это именно то будущее, которое Google продемонстрировала на конференции I/O 2025, сделав AI-агентов и их взаимодействие центральной темой презентации. На сцене всё выглядело блестяще. За кулисами, похоже, начали задавать неудобные вопросы.\n\n## Агенты, выполняющие команды других агентов — это и есть новый класс риска\n\nРохи́н Шах (Rohin Shah), руководитель направления безопасности и выравнивания AGI в Google DeepMind, сформулировал проблему на удивление прямо. По его словам, массовый выход на рынок инструментов, способных выполнять задачи без контроля человека и следовать инструкциям, полученным от других машин, создаёт «целый новый класс риска».\n\nВот это и есть ключевой водораздел.\n\nДо сих пор мы говорили о безопасности одного AI: чтобы он не выдавал опасный совет, не делал глупостей, не нарушал закон. DeepMind теперь признаёт: существующие инструменты контроля не рассчитаны на ситуацию, где агенты начинают каскадно выполнять чужие команды, и цепочка решений уходит в «чёрный ящик».\n\n## Партнёры и грант: почему именно академический «дальний взгляд»\n\n$10-миллионный фонд собран не в одиночку. К инициативе подключились:\n- Schmidt Sciences — филантропический фонд Эрика и Венди Шмидт;\n- ARIA — британское «агентство лунных проектов» при правительстве;\n- Cooperative AI Foundation — некоммерческая исследовательская группа;\n- Google.org — благотворительное подразделение Google.\n\nЦель — не дать денег внутренним командам, а стимулировать университеты и независимые лаборатории заняться «дальним взглядом» (long-term research). Шах объясняет это просто: сила академии в том, что она может заглянуть гораздо дальше в будущее и делать работу, которая в промышленных лабораториях не находится «на вершине списка приоритетов».\n\nПеревод с корпоративного: мы сейчас заняты гонкой, а вы, учёные, придумайте парашют, пока мы разгоняемся.\n\n## В чём реальная опасность: системные пробки и цифровой эффект домино\n\nМультиагентный хаос — это не фантазия о восстании машин. Это гораздо прозаичнее и оттого опаснее.\n\nФинансовые цепочки, логистические платформы, системы заказов в ретейле, информационные агрегаторы — они всё активнее автоматизируются. И передают управление AI-инструментам, способным принимать решения за доли секунды. Никто до конца не понимает, что случится, когда тысяча таких агентов начнёт интерпретировать команды друг друга без общего протокола.\n\nПредставьте «пробку» на уровне цифровых сервисов: курьеры едут не туда, заказы умножаются на ноль, биржевые алгоритмы реагируют на ложный сигнал. И всё это — без злого умысла. Просто потому, что агенты слишком буквально поняли друг друга.\n\n## PR-жест или реальная озабоченность? Масштаб сумм говорит сам за себя\n\nИ вот тут — момент, который заставляет прищуриться. Google DeepMind, компания с бюджетом, сопоставимым с ВВП небольшого государства, выделяет $10 млн на решение проблемы, которую сама же назвала новым классом риска.\n\nНе на внутренний отдел. Не на экстренный комитет. А на внешний грант для учёных.\n\nЭто либо гениальный ход — раздать задачу миру, чтобы найти решение дешевле и быстрее. Либо попытка показать регуляторам и публике: «Смотрите, мы этим занимаемся», — не вкладываясь по-настоящему.\n\nС учётом того, что параллельно Google «всё больше склоняется» к оборонным контрактам (о чём сообщили сотрудникам на внутренних встречах), вся эта картина начинает отдавать аккуратным корпоративным театром.\n\n## Практический слой: как это коснётся не-учёных\n\nПока исследователи будут сидеть над грантовыми заявками, вот что стоит держать в голове обычному пользователю или малому бизнесу.\n\nВо-первых, доверять AI-агенту полный автопилот финансовых или логистических решений сейчас — так себе идея. Ручной контроль, лимиты и подтверждения — пока единственная страховка от системного сбоя.\n\nВо-вторых, прозрачность цепочек команд — будущий must-have. Требуйте от сервисов ответа: кто отдал приказ вашему агенту и на каком основании? Пока это не стандарт, вы в зоне риска.\n\nИ в-третьих, вопрос «а кто за это отвечает?» при взаимодействии двух AI — юридически пустой. Вина размазывается между разработчиками, пользователем и третьим агентом. И $10 млн на исследования эту дыру не закроют.\n\nСпокойной ночи. И проверьте, не заказал ли ваш помощник фуру бананов.\n\n## Материалы\n\n- [MIT Tech Review] Google DeepMind is worried about what happens when millions of agents start to interact: https://www.technologyreview.com/2026/06/11/1138794/google-deepmind-is-worried-about-what-happens-when-millions-of-agents-start-to-interact/\n- [news.google.com] supporting context: https://news.google.com/rss/articles/CBMi1wFBVV95cUxORHBFZElKbGtTUF8tWlA4Vk80R3AzOG9ISWxOQUgwQVRxQi13S0t2UFdtb1hqM05nd1ZDV0lHRnBQamo4NzJqRG1ucmQwcS1BZ1BFa1JKLVgxN3dnTXZkbW5Bb3RqMTdtNTNPTXVya1ZTdmJRTUVvRXVwM0xmNzVNWDR3Y3g0UHh1MUdYMXVmTl9tcFJIMmtqWEpZU0E3UGNMMGw5QlY2TW5scnVEanphYWlfVVNKSmpYY1VtLTB6U0xXc3ZfakcxVTQ5R2sydTFlMUVCWElkNNIB3AFBVV95cUxPTGVXZHA1LUl0bHVoWGJEcTB6RFQ1LUIyYmYyaDZTR2JnTFJOZG9iVDRHczljMHVybzdXWjFYaE1faW14UE5FRUFwbGZ2TEhEZFVSQlpOU2FFdnFBN1VnWS12VkNiVGtabkw0V2Fua3psWjhRWnZGdG5Qd19PQk5ybG5KRzd2TUo1dnpWU1ZZeERJYzNxQXMwak5oSnc4LUxnX01oS1BXMkNsZ0R0bmxTcWZHSVhRS3NoU3dzeFhjZlplNEd1TzFtVzN3Qk1VYjFOaXRSWGliZURkYlFw?oc=5\n- [news.google.com] supporting context: https://news.google.com/rss/articles/CBMirAFBVV95cUxQa0tLSXRHY0pCMWJvN3BFdl9wVC1MbWRXS0xtRUhzaGdNY3Y2V3pQV2FENzk1ZXhaaHNMRmJYSW4tRlNhUEdzSkZmbkZNSFR6RDlmUHpqRm5ielYxblVBeDJZNTRZZWNLQXJwdnI0NkVpY2FHVUVyQlBLZ1BOX25DbzJrUHl1aVRsa2dmOGVNdlBXWXZXTjhyYmJJLU1kOVRFUW5Ua0ljeWMzLUdH?oc=5\n- [news.google.com] supporting context: https://news.google.com/rss/articles/CBMieEFVX3lxTE9ZTmpSUmVXVUhxNFVFLUpRdHR4aFUyTzJ1amJXNjBaclFZaWJaN2c5MnQ3dFAyUkNBd2IwOHljT3JaT1puUEVuYktNVVhVOER5M3VNRGk3RlQ5NTc1RzJZT0JmdnpCX21tV3hUX3dWSjZFQXQ4clVGdw?oc=5\n"}