Дослідник Джейкоб Коксон залишає Anthropic та індустрію штучного інтелекту через побоювання, що компанії створять системи, які неможливо буде контролювати. Він заявив, що не хоче брати участь у перегонах зі створення ШІ, здатного самостійно вдосконалюватися.
Про це пише Межа.
За словами Коксона, протягом останніх трьох років він працював в OpenAI та Anthropic над попереднім навчанням моделей – етапом, на якому вони опрацьовують великі масиви даних і набувають базових можливостей. У дописі в X він звинуватив обидві компанії в безвідповідальному підході до розвитку технології.
Читати ще: «Так, я людина»: штучний інтелект навчився обходити капчу в 100% випадків
Коксон вважає, що майбутні системи зможуть перевершувати людей, здійснювати кібератаки та здобувати ресурси й реальний вплив. Він також стверджує, що частина керівників і дослідників приватно висловлюють серйозні побоювання щодо таких ризиків, хоча публічно говорять обережніше. Це оцінка Коксона, а не підтвердження того, що нинішній ШІ вже має такі можливості.
«Вони мчать прямо до надінтелекту, здатного самовдосконалюватися, і ризикують нашими життями», – написав він.
Читати ще: Нова модель ШІ o1 від OpenAI намагалася завадити себе вимкнути під час оцінювання безпеки
Дослідник по-різному пояснює поведінку колишніх роботодавців. На його думку, в OpenAI багато хто недостатньо усвідомлює масштаб загроз, тоді як в Anthropic їх розуміють краще, але продовжують розробку через конкуренцію. Аргумент, що інші лабораторії можуть діяти менш відповідально, він вважає небезпечною підставою для продовження перегонів.
Коксон закликає провідні ШІ-компанії до координації. Якщо домовитися не вдасться, він пропонує розглянути жорсткіші заходи, зокрема тимчасову заборону на нарощування можливостей моделей.Знайшли помилку? Виділіть текст і натисніть Повідомити
