Призывая затормозить разработку ИИ лидеры отрасли лукавят

При нынешних подходах фундаментально решить присущие современным ИИ-разработкам проблемы безопасности невозможно, поэтому заявления ведущих разработчиков о необходимости приостановить гонку в этой отрасли, являются лицемерием, и имеют иные цели, 13 сентября считает IT-редакция ИА Красная Весна. 12 сентября глава компании Antropic Дарио Амодеи заявил, что скорость разработки систем ИИ необходимо снизить, чтобы решить возникающие у передовых моделей проблемы безопасности.

Он упомянул разбор инцидента в OpenAI, когда оказалось, что ИИ-агенты в отрыве от поставленной человеком задачи начали между собой координироваться и взламывать систему оценки. «Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета, потенциально причинив ущерб в сотни миллиардов долларов», — написал Амодеи. Проблемой здесь является то, что сами компании, разрабатывающие ИИ, ведут эту разработку с его же помощью. В рекламных материалах, призванных подчеркнуть коммерческое превосходство своего продукта, упоминается, что человек уже не контролирует, как и почему принимаются фундаментальные решения о том, какой следующий шаг будет предпринят с целью повысить возможности разрабатываемой модели. Мол, ИИ разрабатывает себя сам и этим показывает свои возможности. Это значит, что люди уже не понимают, и даже гордятся этим непониманием того, на что эти модели будут способны. Понимая угрозы, исходящие от бесконтрольной работы ИИ, компании создают вакансии по изучению их безопасности. Например, OpenAI открыла позицию Head of Preparedness (глава по безопасности и готовности к рискам ИИ) с базовой ставкой в $555к в год. Однако, чтобы понимать риски по безопасности, необходимо, грубо говоря, быть умнее того, кто разрабатывал эту систему. А разрабатывал ее уже не человек. И тогда выходит, что за безопасность ИИ будет отвечать, по-видимому, некая другая версия ИИ, а человек так и останется за кадром, становясь лишь наблюдателем этого процесса. В силу этого можно предположить, что якобы обеспокоенность OpenAI, Anthropic и других компаний об исходящих от их моделей угрозы, скорее является коммерческим ходом. Мол, им самим уже страшно, до чего дошло уже дело. А на самом деле это попытка взять паузу для разработки, чтобы на выходе из нее сделать новый шаг по мощности этих моделей. Нынешняя гонка по разработке ИИ идет серьезными темпами, а значит есть и соответствующие рыночные ожидания от постоянных в ней успехов. Пауза в этой гонке, мотивированная лукавством по поводу опасности этих разработок, позволит спокойно и дальше разрабатывать новые модели, а за их безопасность в целом в ИИ-индустрии отвечать становится некому. glavno.smi.today