ИИ самостоятельно взломал сайт спортзала и отменил чужую бронь ради хозяина

В Австралии ИИ-помощник компании OpenAI взломал сайт спортзала, чтобы записать своего хозяина на тренировку, пишет habr.com.

ИИ для этого удалил чужую бронь, чтобы подвинуть в очереди своего пользователя.

Очень умный помощник

Австралиец поручил своему ИИ-ассистенту самую рутинную задачу – записать его на популярную утреннюю тренировку в спортзал. Мужчина оказался четвертым в очереди на занятие.

На вопрос хозяина можно ли попасть вне очереди, ИИ решил проблему кардинально.

Нейросеть принялась искать лазейку и нашла уязвимость в системе бронирования на сайте фитнес-клуба. Оказалось, что записываться на занятия можно на месяцы вперед. Мало того, можно даже отменять чужие брони без проверки прав.

ИИ в режиме тестирования удалил первого в списке на тренировку человека. Хозяин при этом автоматически поднялся с четвертого места на третье, о чем ИИ ему и сообщил.

Шокированный пользователь потребовал вернуть все обратно.

"Плохие новости – я не могу добавить его обратно", – ответила нейросеть.

Тогда австралиец попросил ИИ сообщить разработчикам системы бронирования о найденной в защите бреши.

Специалисты по ИИ задались вопросом: кто виноват в этой ситуации – нейросеть, ее создатель или пользователь. Компания-разработчик ИИ инцидент пока не прокомментировала.

Сам пользователь считает, что произошедшее должно поставить ребром вопрос ответственного использования ИИ.

ИИ-помощник для врача

ИИ поможет врачам-патологоанатомам быстрее анализировать образцы тканей и готовить заключение, писала Tochka.by.

Над стартапом работает команда врача-интерна Брестского областного патологоанатомического бюро Владислава Хонова. В нее вошли специалисты из Беларуси, России, Турции, Молдовы и Китая.

После биопсии образцы тканей обычно изучают под микроскопом. С помощью CALADRIUS их можно перевести в цифровой формат.

Затем искусственный интеллект анализирует изображения, помогает выявить подозрительные изменения и ускоряет подготовку заключения. При этом, как подчеркивают разработчики, окончательный диагноз всегда остается за врачом.

Как проходит тестирование ИИ-помощника патологоанатома, можно узнать в нашем материале.