Мы стремимся информировать читателей не только о событиях в биткоин-индустрии, но и рассказывать о том, что происходит в смежных технологических сферах — кибербезопасности, а теперь и в мире искусственного интеллекта (ИИ).ForkLog собрал наиболее важные новости из мира ИИ за прошедшую неделю. Ключевое Исследователи обманули продвинутый алгоритм компьютерного зрения OpenAI с помощью рукописной записки.
Алгоритм сгенерировал видеоклип из обложек музыкальных альбомов. Активисты из Калифорнии подали иск с требованием запретить использовать продукты Clearview AI на территории штата. Британские ученые разработали алгоритм для скрининга COVID-19, который может диагностировать вирус, анализируя звук кашля. Компьютерное зрение OpenAI обманули с помощью рукописных заметок Исследователи из лаборатории машинного обучения OpenAI обнаружили, что их современную систему компьютерного зрения можно обмануть с помощью инструментов, не более сложных, чем ручка и блокнот.Чтобы обмануть программу и заставить ее неправильно идентифицировать то, что она видит достаточно записать имя объекта и наклеить его на другой.[caption id="attachment_127904" align="alignnone" width="624"] Пример обмана алгоритма с помощью стикера. Данные: OpenAI.[/caption]«Мы называем эти атаки типографскими. Используя способность модели надежно читать текст, мы обнаружили, что фотографии с рукописным текстом могут обмануть модель», – написали исследователи OpenAI в блоге.Они отметили, что такие атаки похожи на [simple_tooltip content='Изображения, в которых есть намеренно измененные пиксели, чтобы сбить с толку и ввести в заблуждение модели компьютерного зрения, но в то же время они выглядят безобидными для людей. ']«состязательные изображения»[/simple_tooltip], которые могут обмануть коммерческие системы машинного зрения, но их гораздо проще создать.Состязательные изображения представляют реальную опасность для систем, полагающихся на машинное зрение. Например, исследователи показали, что они могут обмануть программное обеспечение беспилотных автомобилей Tesla, чтобы без предупреждения менять полосу движения, просто наклеив на дорогу определенные стикеры. Такие атаки представляют собой серьезную угрозу для множества приложений искусственного интеллекта, от медицинских до военных.Разработчики из OpenAI отметили, что это экспериментальная модель и она не используется в коммерческих целях. В будущем исследователи будут работать над тем, чтобы избавить ее от подобных уязвимостей. Британские ученые создали ИИ-инструмент для диагностики COVID-19 по звуку кашля Ученые из Эссекского университета создали инструмент для скрининга COVID-19, который может диагностировать вирус, анализируя звук кашля. Приложение, названное DeepCough3D, использует ИИ для анализа аудиозаписи кашля на частотах, которые люди не могут слышать, пишет The Next Web со ссылкой на полное исследование в журнале IEEE Transactions on Service Computing.Исследователи проверили алгоритм на более чем 8000 образцах аудиозаписей, на которых кашляют пациенты испанских и мексиканских больниц. Из них около 2000 людей болели коронавирусной инфекцией, а остальные – нет.По словам разработчиков, DeepCough3D с 98% точностью определяет, принадлежат ли образцы кашля людям с COVID-19.Ведущий исследователь доктор Хавьер Андреу-Перес считает, что этот инструмент может в корне изменить ситуацию в борьбе с пандемией.«Он [инструмент] гораздо менее инвазивен, чем большинство других тестов на COVID-19, а также предлагает быстрые результаты, открывая путь к решениям для предварительного скринингового тестирования», – сказал Андреу-Перес.Команда Университета Эссекса заявляет, что их исследование отличается от других, поскольку оно доказало свою высокую точность при обнаружении инфекции в тысячах клинически подтвержденных образцах, которые были протестированы в сертифицированных лабораториях.Исследователи также использовали этот инструмент для классификации кашля по трем уровням тяжести, что может помочь специалистам в области здравоохранения распределять ресурсы, такие как аппараты ИВЛ.В будущем ученые планируют провести интервенционные исследования с технологией и работать над сертификацией инструмента, чтобы его можно было использовать в больницах для диагностирования коронавирусной инфекции. Активисты потребовали запретить Clearview AI в Калифорнии через суд Группа активистов подала иск в суд Калифорнии о прекращении деятельности компании Clearview AI на территории штата. Правозащитники требуют запретить компании собирать какие-либо биометрических данные, а также удалить всю имеющуюся личную информацию калифорнийцев.
Свежие комментарии