«Представьте, как его может использовать путин»: создатель нейросети заявил об опасности искусственного интеллекта и уволился из Google

fakty.ua:

Всемирно известный ученый Джеффри Хинтон, которого по праву называют «крестным отцом (ИИ), дал. 75-летний компьютерный гений объявил о своем увольнении из корпорации Google. Он подчеркнул, что это решение позволяет ему теперь публично и открыто говорить об опасностях ИИ и технологий, связанных с его развитием.

Хинтон опасается, что ИИ-технологии попадут в руки злоумышленников, которые с их помощью будут делать «плохие вещи».

«Вот самый пессимистичный сценарий. Самый кошмарный прогноз. Представьте себе, например, что какой-нибудь преступник вроде путина решит дать роботам возможность создавать свои собственные подзадачи. Например, мне нужно усилить свою власть», — сказал Хинтон.

Ученый также признал, что отчасти сожалеет о проделанной работе в области развития искусственного интеллекта.

«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал Хинтон.

Он уверен в том, что человечеству следует всерьез опасаться той скорости, с которой ИИ-технологии развиваются. В первую очередь речь идет о чат-ботах.

«Они пока еще не настолько интеллектуально развиты, как мы. По крайней мере, насколько мне известно. Но я думаю, что скоро они могут нас догнать… Уже сейчас мы видим, что такие системы, как GPT-4, затмевают человека по общей эрудиции, причем с большим перевесом. В том, что касается логического осмысления, она еще отстает, но на простые рассуждения она уже способна», — отметил ученый.

«Мы являемся биологическими системами, а здесь речь идет о цифровых. И огромная разница заключается в том, что у цифровых систем может быть множество копий с одними и теми же исходными составляющими. Все эти копии могут учиться отдельно друг от друга, а потом мгновенно обмениваться новыми знаниями.