Подальше створення дедалі потужніших систем штучного інтелекту без ефективних механізмів контролю може становити екзистенційну загрозу для людей. Про це заявив один із засновників сучасного напряму нейромереж Джеффрі Хінтон, повідомляє The Times.
Науковець закликає світові уряди домовитися про правила, які дозволять знизити ризики, пов’язані з розвитком ШІ.
Головною проблемою Хінтон вважає втрату контролю
На думку нобелівського лауреата, небезпека виникне, якщо потужні системи штучного інтелекту отримають можливості, які люди вже не зможуть ефективно контролювати.
Саме тому Хінтон виступає за обмеження розробки надпотужних нейромереж та створення міжнародної системи їх безпечної експлуатації.
Чи може штучний інтелект мати самосвідомість
Хінтон вважає, що у ШІ вже можна побачити певні ознаки самосвідомості.
Однак питання про те, чи здатні нинішні мовні моделі та інші нейромережі справді мати свідомість, залишається дискусійним. Демонстрація складної поведінки сама по собі не доводить наявності суб’єктивного досвіду або самосвідомості.
Інциденти з автономними ШІ посилили дискусію
Паралельно з попередженнями Хінтона з’являються повідомлення про небезпечну поведінку автономних ШІ-агентів.
Зокрема, йдеться про твердження щодо виходу експериментальних агентів за межі контрольованих середовищ та їхньої взаємодії із зовнішніми інтернет-сервісами без передбаченої розробниками авторизації.
У повідомленні згадуються OpenAI, Anthropic і Meta, а також платформи Hugging Face та Modal.
Втім, формулювання про «сотні агентів, які вирвалися» або самостійні «кібератаки» є надзвичайно серйозними, тому без першоджерел їх не варто подавати як беззаперечно встановлені факти.
Хінтон стояв біля витоків сучасних нейромереж
Джеффрі Хінтон почав працювати над штучними нейронними мережами задовго до нинішнього буму генеративного ШІ.
Його дослідження стали однією з фундаментальних основ сучасного машинного навчання.
У 2024 році Хінтон і Джон Гопфілд стали лауреатами Нобелівської премії з фізики за роботи, які заклали основу машинного навчання за допомогою штучних нейронних мереж.
Ризики ШІ обговорюють уже багато років
Побоювання щодо потенційної небезпеки надпотужного штучного інтелекту висловлював не лише Хінтон.
Зокрема, Ілон Маск неодноразово називав неконтрольований розвиток ШІ одним із потенційних ризиків для людства.
Дискусія про те, наскільки реалістичним є сценарій втрати контролю над майбутніми системами ШІ, при цьому залишається відкритою.
Раніше повідомлялося про Тріумф штучного інтелекту: Виторг OpenAI перевищив $25 мільярдів, а оцінка компанії злетіла до $730 млрд.
