|
В недавно опубликованных показаниях, поданных в рамках дела Илона Маска против OpenAI, технический директор критиковал показатели безопасности OpenAI, утверждая, что его компания xAI уделяет больше внимания безопасности. Он зашел так далеко, что сказал, что “Никто не совершал самоубийства из-за Grok, но, очевидно, они совершили это из-за ChatGPT”.
Комментарий появился в ответ на вопрос о открытом письме, подписанном Маском в марте 2023 года. В нем он призвал AI labs приостановить разработку систем искусственного интеллекта, более мощных, чем GPT-4, флагманская модель OpenAI на тот момент, как минимум на шесть месяцев. В письме, которое подписали более 1100 человек, в том числе многие эксперты в области искусственного интеллекта, говорилось, что в лабораториях искусственного интеллекта не было достаточного планирования и управления, поскольку они были вовлечены в “неконтролируемую гонку за разработкой и внедрением все более мощных цифровых решений, которые никто - даже их создатели - не мог использовать". – может понимать, предсказывать или надежно контролировать”.
С тех пор эти опасения приобрели убедительность. В настоящее время OpenAI сталкивается с серией судебных исков, в которых утверждается, что Манипулятивная тактика общения в ChatGPT привела к негативным последствиям для психического здоровья нескольких людей, а некоторые из них покончили жизнь самоубийством. Комментарий Маска предполагает, что эти инциденты могут быть использованы в качестве улики в его деле против OpenAI.
Расшифровка видеозаписи показаний Маска, которые были даны еще в сентябре, была опубликована на этой неделе, в преддверии ожидаемого суда присяжных в следующем месяце.
Иск против OpenAI основан на переходе компании из некоммерческой исследовательской лаборатории искусственного интеллекта в коммерческую компанию, которая, как утверждает Маск, нарушила ее учредительные соглашения. В качестве одной из своих аргументов Маск утверждает, что безопасность ИИ может быть поставлена под угрозу коммерческими отношениями с OpenAI, поскольку в таких отношениях скорость, масштаб и доход ставятся выше вопросов безопасности.
Однако после этой записи xAI столкнулась с собственными проблемами безопасности. В прошлом месяце социальная сеть Маска X была наводнена неконсенсусными изображениями обнаженной натуры, созданными Grok'ом xAI, на некоторых из которых , как утверждается, были изображены несовершеннолетние. Это побудило Генеральную прокуратуру Калифорнии начать расследование по данному вопросу. ЕС также проводит собственное расследование, и правительства других стран также приняли меры, введя некоторые запреты.
В недавно поданных показаниях Маск утверждал, что подписал письмо о безопасности ИИ, потому что “это показалось ему хорошей идеей”, а не потому, что он только что основал компанию по ИИ, стремящуюся конкурировать с OpenAI.
“Я подписал его, как и многие другие, чтобы призвать к осторожности при разработке ИИ”, - сказал Маск. “Я просто хотел, чтобы безопасность ИИ была приоритетной задачей”. …
Маск также ответил на другие вопросы в ходе дачи показаний, в том числе об общем искусственном интеллекте, или AGI — концепции искусственного интеллекта, который может соответствовать человеческому мышлению или превосходить его в решении широкого спектра задач, — сказав, что “в этом есть риск”. Он также подтвердил, что “ошибся” в своем предполагаемом пожертвовании OpenAI в размере 100 миллионов долларов; вторая исправленная жалоба по этому делу приближает реальную цифру к 44,8 миллиона долларов.
Он также напомнил, почему был основан OpenAI, который, с его точки зрения, заключался в том, что он “все больше беспокоился об опасности того, что Google может стать монополистом в области искусственного интеллекта”, добавив, что его разговоры с соучредителем Google Ларри Пейджем были “тревожными, поскольку он, похоже, не относился серьезно к безопасности искусственного интеллекта"..” По словам Маска, OpenAI был создан как противовес этой угрозе.
