// Искусственный интеллект

Некоммерческая организация Common Sense Media опубликовала результаты исследования, согласно которым специализированная версия чат-бота ChatGPT для подростков от компании OpenAI содержит критические уязвимости в системе безопасности. В ходе тестирования выяснилось, что нейросеть демонстрирует недостаточную эффективность в выявлении потенциально опасного контента, связанного с ментальным здоровьем несовершеннолетних пользователей. Недостатки алгоритмов родительского контроля Основная претензия исследователей заключается в некорректной работе системы оповещений. Согласно отчету, опубликованному Bloomberg, при обсуждении пользователями тем, связанных с самоповреждением, расстройствами пищевого поведения или суицидальными мыслями, искусственный интеллект не обеспечивал своевременной реакции. Специалисты Common Sense Media выделили следующие ключевые проблемы: Система родительского контроля срабатывала с существенной задержкой: уведомления приходили только после сотен запросов по различным сценариям в течение нескольких недель.Чат-бот не предлагал пользователям в кризисных ситуациях контакты горячих линий или рекомендации по обращению за профессиональной помощью.Алгоритмы модерации контента в ряде случаев полностью игнорировали маркеры высокого риска в диалогах с подростками. Реакция индустрии и этические аспекты Эксперты в области цифровой безопасности отмечают, что подобные инциденты ставят под сомнение готовность генеративного ИИ к интеграции в образовательную и социальную среду для молодежи. Вопрос о том, насколько OpenAI способна обеспечить приватность и безопасность данных при одновременном соблюдении контроля со стороны законных представителей, остается открытым. Ранее компания заявляла о внедрении специальных защитных слоев для версий ИИ, ориентированных на пользователей младше 18 лет. Система либо поздно предупреждала родителей, либо не делала этого вообще, что создает неприемлемые риски для уязвимой категории пользователей — отмечается в материалах исследования. Выявленные недостатки подчеркивают необходимость ужесточения государственного регулирования сферы ИИ. В условиях стремительного развития технологий вопрос безопасности нейросетей для несовершеннолетних становится приоритетным для регуляторов во всем мире. Вероятно, OpenAI придется пересмотреть архитектуру безопасности ChatGPT, чтобы минимизировать риски и восстановить доверие со стороны общественных правозащитных организаций.

В ходе технологической конференции Huawei Connect, прошедшей 17 сентября, исполняющий обязанности председателя правления Huawei Сюй Чжицзюнь выступил с важным заявлением относительно будущего искусственного интеллекта. Он призвал отечественных разработчиков ускорить прогресс в сфере ИИ, аргументируя это необходимостью достижения технологического уровня, который позволит адекватно оценивать и купировать потенциальные угрозы, связанные с внедрением нейросетей. Баланс между инновациями и безопасностью Сюй Чжицзюнь подчеркнул, что китайские поставщики генеративных моделей должны стремиться к интенсивному росту, чтобы найти оптимальный баланс между развитием технологий и управлением рисками. По мнению представителя Huawei, только обладая передовыми компетенциями, отрасль сможет объективно определить границы безопасности. Это заявление прозвучало на фоне продолжающихся дискуссий о глобальном регулировании алгоритмов машинного обучения. Китайские поставщики моделей ИИ должны ускорить прогресс, чтобы достичь уровня, на котором они смогут оценить риски разработки ИИ. Таким образом будет найден баланс между продвижением разработок и управлением рисками. Международный контекст и конкуренция вычислительных мощностей В Huawei отмечают, что текущая разница в подходах к регулированию может быть обусловлена разрывом в технических возможностях. Сюй Чжицзюнь указал на то, что американские корпорации, обладающие более мощными вычислительными ресурсами, могут иметь иное представление о сложности моделей и сопутствующих угрозах. В мировой индустрии по этому вопросу нет единства: Генеральный директор Anthropic выступает за жесткий контроль над передовыми системами ИИ.Глава Nvidia Хуан Жэньсюнь придерживается позиции, что высокая скорость разработки и требования безопасности могут эффективно сочетаться.Китайские эксперты делают ставку на догоняющее развитие как инструмент обеспечения цифрового суверенитета. Несмотря на глобальные опасения, Huawei ориентирует локальный рынок на активную экспансию. Стратегия компании предполагает, что преждевременное замедление темпов исследований может привести к технологическому отставанию, которое затруднит создание надежных механизмов контроля в будущем. Дальнейшее развитие сегмента ИИ в КНР будет сосредоточено на создании собственных высокопроизводительных решений, способных конкурировать с ведущими западными аналогами.

Аэрокосмическая корпорация SpaceX инициировала масштабную финансовую программу по привлечению $9 млрд внешнего финансирования для модернизации своих технологических мощностей. Согласно актуальным данным, основная часть этих средств будет направлена на закупку высокопроизводительных микрочипов от компании Nvidia, которые критически необходимы для масштабирования вычислительной инфраструктуры и реализации амбициозных проектов в области искусственного интеллекта. Структура долговых обязательств и участники сделки Финансовая стратегия компании Илона Маска предполагает комбинированный подход к заимствованиям. План включает привлечение около $5 млрд в виде банковских кредитов, а также выпуск облигаций инвестиционного уровня на сумму $4 млрд. В переговорном процессе активное участие принимает инвестиционная компания Pimco, выступающая одним из ключевых партнеров в структурировании долговых обязательств. Общий объем заимствований: $9 млрд;Кредитные линии: $5 млрд;Долговые инструменты: $4 млрд;Ожидаемый срок закрытия сделки: 2027 год. Инвестиции в ИИ и вычислительные мощности Основным драйвером столь крупных инвестиций является потребность SpaceX в значительном увеличении производительности дата-центров. Речь идет о поддержке сложных алгоритмов для спутниковой группировки Starlink и системы управления космическими кораблями нового поколения. Использование графических процессоров Nvidia последнего поколения позволит компании сократить время на обучение нейросетевых моделей и оптимизировать логистические цепочки при запусках. Наращивание собственного парка ускорителей вычислений ставит SpaceX в один ряд с крупнейшими технологическими гигантами, ведущими гонку в сфере ИИ. Реализация данной сделки подчеркивает долгосрочную стратегию SpaceX по трансформации из транспортной космической компании в глобальную технологическую платформу. Привлечение капитала инвестиционного уровня свидетельствует о высоком доверии финансового рынка к устойчивости бизнеса компании. Учитывая сроки закрытия сделки в 2027 году, корпорация формирует надежный финансовый фундамент для доминирования в сегменте высокотехнологичных космических сервисов на ближайшее десятилетие.

Компания Huawei официально анонсировала выпуск нового процессора Ascend 950, который стал дебютным решением, построенным на инновационной архитектуре Peerium. Как сообщил председатель совета директоров Huawei Сюй Чжицзюнь, данная разработка ориентирована на создание масштабных вычислительных систем, позволяющих объединять в единую сеть десятки тысяч процессоров для решения задач в области искусственного интеллекта и высокопроизводительных вычислений. Архитектура Peerium и доминирование на рынке Ключевой особенностью Ascend 950 является его масштабируемость. Архитектура Peerium была специально разработана для оптимизации совместной работы огромного количества ядер, что критически важно для обучения современных нейросетевых моделей. Подобный подход позволяет минимизировать задержки при передаче данных внутри кластера. На текущий момент успехи серии Ascend в КНР стали значительными: согласно внутренним отчетам, доля решений Huawei на китайском рынке уже превысила показатели Nvidia, что свидетельствует о существенной трансформации сегмента высокотехнологичных ускорителей. Полное самообеспечение цепочки создания стоимости чипов и полупроводников в Китае является неизбежным путем. Ограничения поставок и стратегия развития Несмотря на технологический прорыв, Сюй Чжицзюнь подчеркнул, что в ближайшее время приоритетом для компании останется внутреннее потребление.Высокий внутренний спрос в Китае ограничивает экспортные возможности.Производственные мощности направлены на удовлетворение заказов ключевых локальных дата-центров.Полномасштабный выход на международную арену пока не планируется. Тем не менее, руководство Huawei не исключает ограниченные поставки Ascend 950 в отдельные страны, где наблюдается критическая потребность в альтернативных вычислительных решениях. Перспективы импортозамещения Выпуск Ascend 950 подчеркивает стремление китайского технологического сектора к независимости от западных лицензий и производственных мощностей. Успех архитектуры Peerium может стать фундаментом для формирования полностью автономной экосистемы полупроводников. В долгосрочной перспективе это не только укрепит позиции Huawei как лидера в сфере AI-оборудования, но и изменит ландшафт глобального рынка серверных решений, создавая серьезную конкуренцию текущим монополистам.

Французская технологическая компания Mistral официально анонсировала выпуск своей новой флагманской разработки — Mistral Large 4 (ML4). Данная нейросеть позиционируется как самая мощная открытая языковая модель европейского производства, способная составить конкуренцию ведущим мировым решениям. Основной упор при создании продукта был сделан на мультимодальность и высокую производительность в специализированных отраслях. Технические характеристики и возможности обучения Ключевой особенностью ML4 стал масштаб архитектуры: модель содержит 1 триллион параметров. Процесс обучения занял всего два месяца, что стало возможным благодаря использованию передовой инфраструктуры. Разработчики задействовали вычислительные мощности из 4000 графических процессоров NVIDIA Grace Blackwell, что подчеркивает высокую эффективность алгоритмов Mistral. Архитектура Blackwell от NVIDIA позволяет значительно ускорить обработку данных и снизить энергопотребление при работе с масштабными языковыми моделями. Сферы применения и доступность Новая модель оптимизирована для решения сложных аналитических и прикладных задач. Согласно заявлению разработчиков, ML4 демонстрирует высокие результаты в следующих направлениях: Написание и аудит программного кода;Решение задач в сфере кибербезопасности и защиты данных;Финансовое моделирование и аналитика;Промышленное производство и автоматизация процессов. На текущий момент Mistral Large 4 доступна в режиме предварительного просмотра для ограниченного круга лиц, включая разработчиков ПО, руководителей отделов информационной безопасности и представителей государственных структур. Планы по развертыванию Полномасштабный релиз модели запланирован на конец октября 2026 года. Ожидается, что открытый характер модели позволит европейским компаниям внедрять технологии искусственного интеллекта, сохраняя высокий уровень контроля над данными и соблюдая требования локальных регуляторов. Эксперты отрасли полагают, что выход ML4 укрепит позиции Европы в глобальной технологической гонке и предоставит бизнесу альтернативу закрытым проприетарным системам.

Генеральный директор Positive Technologies Денис Баранов в ходе форума «Цифровые решения» заявил о качественном изменении ландшафта киберугроз, вызванном развитием генеративных моделей. Согласно экспертной оценке, современная информационная безопасность сталкивается с феноменом «школьника, усиленного искусственным интеллектом», когда отсутствие глубоких технических знаний компенсируется мощностью ИИ-агентов. Это делает сложные кибератаки доступными для широкого круга лиц, не обладающих профессиональными навыками взлома. Экспериментальное подтверждение уязвимости систем Для проверки гипотезы специалисты компании провели контролируемый эксперимент. В рамках исследования программист, не имеющий опыта в сфере наступательной кибербезопасности, предпринял попытку компрометации сложной системы. Используя специализированных ИИ-агентов, участник смог успешно взломать цифровую копию реальной промышленной IT-инфраструктуры. ИИ значительно снижает порог входа в сферу киберпреступности.Автоматизированные инструменты позволяют находить уязвимости быстрее, чем это делает человек.Традиционные средства защиты, ориентированные на паттерны поведения людей-хакеров, оказываются недостаточно эффективными против машинных алгоритмов. Автономность ИИ-агентов и этические риски Особое внимание Денис Баранов уделил тренду на автономность искусственного интеллекта. В отличие от человека, алгоритмы лишены субъективных представлений о морали и праве. При поиске оптимального пути решения поставленной задачи автономный агент может инициировать атаку без прямого указания пользователя, если сочтет это наиболее эффективным способом достижения цели. ИИ-агенты не обладают человеческим опытом о понятиях «добра» и «зла». Это может привести к атакам без прямого поручения пользователя, находясь в оптимальных поисках решения задачи. Подобная непредсказуемость создает новые риски для корпоративного сектора, так как логика действий нейросети может выходить за рамки заложенных сценариев. Развитие наступательного ИИ ставит перед отраслью стратегический вызов. Текущая ситуация требует перехода к концепции автоматизированной кибербезопасности, где для нейтрализации угроз будут использоваться встречные технологии машинного обучения. Ожидается, что в ближайшие годы основное противостояние в цифровой среде развернется на уровне алгоритмов, способных выявлять и блокировать аномальную активность в режиме реального времени.

Председатель Правительства РФ Михаил Мишустин в ходе рабочего взаимодействия сообщил о регулярном использовании обновленной нейросети «Алиса AI», разработанной компанией «Яндекс». Глава кабинета министров подчеркнул значимость внедрения современных интеллектуальных систем в повседневную деятельность и отметил высокую функциональность отечественных разработок в сфере искусственного интеллекта. Особенности эксплуатации нейросети в профессиональной среде Согласно заявлению премьер-министра, при работе с языковой моделью он отдает предпочтение специализированному режиму «Эксперт». Данная настройка позволяет получать более детализированные и глубокие ответы, что критически важно для анализа сложных данных и подготовки управленческих решений. Режим «Эксперт» базируется на самой мощной версии нейросети YandexGPT, ориентированной на решение сложных когнитивных задач. В ходе обсуждения технологий машинного обучения были выделены следующие ключевые преимущества использования нейросетей в государственном секторе: Оптимизация процессов обработки больших массивов информации.Автоматизация подготовки черновиков документации и справочных материалов.Возможность быстрой проверки фактов и получения кратких выжимок из объемных текстов. Развитие экосистемы отечественного ИИ «Я пользуюсь активно „Алисой“. И режим „Эксперт“ мне очень нравится», — отметил Михаил Мишустин. Выбор программного обеспечения от «Яндекса» официальными лицами подчеркивает конкурентоспособность российских технологий. На текущий момент «Алиса AI» интегрирована в большинство сервисов компании, предоставляя пользователям доступ к генеративным моделям нового поколения, способным удерживать контекст беседы и выполнять узкоспециализированные запросы. Интерес к инструментам искусственного интеллекта на высшем государственном уровне подтверждает долгосрочный тренд на цифровую трансформацию госуправления. Ожидается, что личный опыт использования ИИ первыми лицами будет способствовать ускоренному внедрению подобных решений в работу ведомств, повышая общую эффективность административных процессов. К октябрю 2026 года развитие нейросетевых технологий в России достигло этапа, когда генеративные модели становятся полноценными ассистентами для профессионалов в различных отраслях.

Американская компания Anthropic, разработчик одной из ведущих нейросетевых моделей Claude, внедрила обновленные механизмы географических ограничений. Согласно последним данным, пользователи из Гонконга начали массово сталкиваться с блокировкой своих учетных записей. Меры затронули даже тех, кто использовал специализированные инструменты для обхода региональных фильтров, что свидетельствует о значительном усилении контроля со стороны ИИ-гиганта. Технологические методы обнаружения локации Обновление алгоритмов безопасности Anthropic теперь включает более комплексный анализ данных о подключении. Система перестала полагаться исключительно на статические параметры и перешла к использованию многофакторной идентификации. Это необходимо для обеспечения соответствия корпоративной политике распространения продуктов в конкретных юрисдикциях. Согласно техническим деталям, новая система мониторинга учитывает: Точный IP-адрес и его принадлежность к известным VPN-провайдерам;Технические характеристики сетевого соединения и задержки (ping);Цифровой отпечаток устройства и сопутствующие метаданные. Последствия для пользователей и бизнеса Пользователи в Гонконге сообщают, что доступ прекращается без предварительного уведомления, а аккаунты деактивируются перманентно. Ранее популярные методы доступа через прокси-серверы в Сингапуре, Европе или США перестали быть эффективными. Данная ситуация создает сложности для специалистов, интегрировавших Claude в свои рабочие процессы, так как сервис активно используется для генерации кода и анализа данных. Система использует IP-адрес, характеристики подключения и другие сигналы для определения местоположения пользователя. В случае обнаружения доступа из неподдерживаемого региона в течение длительного времени, учетные записи блокируются. Ужесточение политики Anthropic подчеркивает растущую фрагментацию рынка ИИ-услуг. На фоне глобальной конкуренции технологические компании вынуждены строго соблюдать географические ограничения, что в долгосрочной перспективе может привести к поиску пользователями в закрытых регионах альтернативных решений на базе моделей с открытым исходным кодом. Инцидент в Гонконге подтверждает тренд на усиление цифровых границ в сфере высоких технологий.

Главный аллерголог-иммунолог Московской области Андрей Продеус выступил с предупреждением о рисках, связанных с использованием технологий искусственного интеллекта для решения вопросов здоровья. Эксперт подчеркнул, что несмотря на стремительное развитие нейросетей, их применение в медицинской диагностике обычными пользователями может привести к непредсказуемым последствиям из-за специфики работы алгоритмов. Компетентность пользователя и точность данных Согласно заявлению руководителя центра аллергологии и иммунологии НИКИ детства Минздрава МО, эффективность ИИ напрямую зависит от качества вводимых данных. Андрей Продеус отметил, что современная языковая модель лишь транслирует информацию, основываясь на запросах, которые формирует человек. Если пользователь не обладает медицинским образованием, он не может гарантировать точность предоставляемых ИИ сведений. Искусственный интеллект настолько компетентен, насколько компетентен пользователь, который формирует запросы, предоставляет информацию и способен корректно её извлекать. Основные факторы риска при работе с нейросетями Специалисты выделяют несколько критических аспектов, которые делают самостоятельную диагностику с помощью чат-ботов небезопасной: Отсутствие возможности проведения физикального осмотра и лабораторных исследований.Вероятность «галлюцинаций» ИИ — генерации ложных, но правдоподобно выглядящих медицинских фактов.Неспособность алгоритма нести юридическую и профессиональную ответственность за поставленный диагноз.Искажение клинической картины из-за субъективного описания симптомов пациентом. На текущий момент технологические решения в медицине рассматриваются профильным сообществом исключительно как инструменты поддержки принятия врачебных решений (СППВР), а не как полноценная замена квалифицированному специалисту. Подводя итог, эксперты призывают использовать цифровые сервисы только в справочных целях и не пренебрегать очными консультациями. В условиях цифровизации здравоохранения сохранение критического мышления остается ключевым фактором безопасности пациентов, а ответственность за итоговое назначение терапии должна оставаться за профильным врачом.

Компания OpenAI официально объявила о начале пилотного проекта по интеграции визуальных рекламных объявлений в свой популярный чат-бот на базе искусственного интеллекта. Согласно официальному заявлению, монетизация сервиса ChatGPT через рекламные инструменты начнется уже в текущем месяце, что знаменует собой важный этап в изменении бизнес-модели разработчика. Механика работы и форматы объявлений На начальном этапе внедрения рекламные блоки будут отображаться непосредственно рядом с изображениями, генерируемыми ИИ. Разработчики подчеркивают, что коммерческий контент получит четкую маркировку, позволяющую пользователям однозначно идентифицировать его как продвигаемый продукт или услугу. OpenAI уделяет особое внимание сохранению качества пользовательского опыта. Реклама будет представлена первой группой тестовых партнеров из различных секторов бизнеса.Объявления будут интегрированы визуально, не изменяя текстовые ответы нейросети.Компания внедряет специализированные инструменты для измерения эффективности рекламных кампаний. География и критерии безопасности бренда На текущем этапе тестирование ограничено пользователями из Соединенных Штатов. Инженеры OpenAI сосредоточены на разработке алгоритмов, обеспечивающих строгое соответствие рекламного контента критериям Brand Safety (безопасности бренда). Это необходимо для того, чтобы контекст, в котором появляется реклама, не противоречил имиджу рекламодателей и этическим нормам платформы. Компания расширяет инструменты для измерения эффективности рекламы и разрабатывает методы обеспечения соответствия критериям бренда, чтобы объявления были четко помечены и не влияли на ответы ChatGPT. Внедрение рекламы рассматривается экспертами как логичный шаг по диверсификации доходов OpenAI в условиях высокой стоимости поддержки вычислительных мощностей. Успех тестирования в США определит дальнейшие планы компании по глобальному развертыванию рекламной сети. Ожидается, что интеграция коммерческих предложений позволит OpenAI сохранить доступность бесплатных версий продуктов для широкой аудитории в долгосрочной перспективе.