Новости

Jan 16, 2024

Создатель ИИ о рисках, возможностях и о том, как он может сделать людей «скучными»

Это видео невозможно воспроизвести. ИИ-босс: худший сценарий, который он может контролировать.

Это видео невозможно воспроизвести

Босс ИИ: в худшем случае он сможет контролировать человечество

«Люди немного скучны — это будет типа до свидания!» Это личный прогноз одного из самых важных людей, о котором вы, вероятно, никогда не слышали, — что искусственный интеллект (ИИ) вытеснит людей во многих ролях.

Эмад Мостак — британский основатель технологической компании Stability AI. Компания популяризировала Stable Diffusion, инструмент, который использует ИИ для создания изображений из простых текстовых инструкций путем анализа изображений, найденных в Интернете.

ИИ позволяет компьютеру думать или действовать как человек. Оно включает в себя так называемое машинное обучение, когда компьютеры могут научиться тому, что делать, не давая точных инструкций человеку, сидящему за клавиатурой и набирающему команды. В прошлом месяце 1000 экспертов резко предупредили о необходимости приостановить разработку, предупредив о потенциальных рисках и заявив, что гонка по разработке систем искусственного интеллекта вышла из-под контроля.

В интервью, которое мы покажем полностью в воскресенье, основатель технологии Мостак задается вопросом, что произойдет, «если у нас будут агенты, более способные, чем мы, которых мы не сможем контролировать, которые будут проходить через Интернет… и они достигнут уровня автоматизации; что это значит?

«В худшем случае он будет размножаться и, по сути, будет контролировать человечество».

Это звучит устрашающе, но он не единственный, кто указывает на риск того, что если мы создадим компьютеры умнее нас самих, мы просто не сможем быть уверены, что произойдет дальше.

Мостак считает, что правительства вскоре могут быть потрясены и вынуждены принять меры из-за события, которое внезапно сделает риски реальными. Он указывает на момент, когда Том Хэнкс заразился Covid-19, и миллионы людей сели и обратили внимание.

Когда наступит такой момент, правительства придут к выводу, что «нам нужна политика сейчас», говорит 40-летний мужчина.

Всплеск беспокойства, например, произошел после того, как республиканская реклама о нападках на Джо Байдена была создана с использованием поддельных компьютерных изображений.

Когда существует риск для информации, которой избиратели могут доверять, правительствам приходится реагировать на это, говорит Мостак.

Несмотря на свои опасения, Мостак говорит, что потенциальная польза от искусственного интеллекта практически во всех сферах нашей жизни может быть огромной. Однако он признает, что последствия для рабочих мест могут быть болезненными, по крайней мере, на начальном этапе.

Мостак говорит, что, по его мнению, ИИ «окажет большее экономическое воздействие, чем пандемия», добавив, что «мы должны решить, в каком направлении» все это пойдет.

Некоторые рабочие места, несомненно, исчезнут, банк Goldman Sachs предположил, что почти непостижимые 300 миллионов должностей могут быть потеряны или сокращены из-за развития технологий.

Хотя никто не хочет, чтобы его заменили роботы, Мостак надеется, что можно будет создать лучшие рабочие места, потому что «рост производительности уравновесится», и люди смогут сосредоточиться на том, что делает нас людьми, и позволить машинам делать больше остального. Он согласен с бывшим главным научным советником Великобритании сэром Патриком Валлансом в том, что развитие искусственного интеллекта и его влияние могут оказаться даже более масштабными, чем промышленная революция.

Мостак — скромный математик, основатель компании, которую он основал только в 2020 году, которая уже была оценена в 1 миллиард долларов, а с притоком новых денег, в том числе от голливудской звезды Эштона Катчера, вероятно, вскоре будет стоить гораздо больше. Некоторые спекуляции оценивают стоимость в 4 миллиарда долларов.

В отличие от некоторых своих конкурентов, он полон решимости, что его технология останется с открытым исходным кодом - другими словами, каждый сможет просмотреть код, поделиться им и использовать его. По его мнению, именно это должно дать общественности определенный уровень уверенности в происходящем.

«Я думаю, что не должно быть необходимости в доверии», — говорит он.

«Если вы создаете открытые модели и делаете это открыто, вас следует критиковать, если вы делаете что-то неправильно, и, надеюсь, хвалить, если вы делаете что-то правильно».

Но его бизнес также поднимает глубокие вопросы о собственности и о том, что реально. Против них возбуждено судебное дело со стороны фотоагентства Getty Images, которое утверждает, что права на продаваемые им изображения были нарушены.