Игорь Бигдан (ibigdan) wrote,
Игорь Бигдан
ibigdan

Они уже здесь

В среде интересующихся AI, GPT3 (специальная нейросеть для работы с текстами и языком) давно уже не новость, но вдруг это мимо вас прошло, а поужасаться скорым восстанием роботов хочется.

Вот — ссылка на эссе, написанное GPT-3 на тему «почему роботы не хотят захватить человечество», опубликованное в гардиан. Пару параграфов привожу в посте. Надо сказать, написано лучше чем 99.999% блоггеров и 99.9% журналистов.

Редакторы гардиан отмечают, что могли бы эссе опубликовать as is по своим стандартам, а процесс редактирования ничем не отличается от редактирования «человеческого» текста.

Меня во всей этой истории больше всего расстраивает, что там никакого прорыва нет, а тупое увеличение количества выученных параметров (тренировка сетки такой обходится в несколько десятков миллионов долларов, а есть ещё эксплуатационные расходы). То есть, это все ещё «тупая» архитектура, не «понимающая» смысла текста, но уже генерирующая контент, недоступный по уровню большинству населения.

Хорошие новости в том, что ничего по настоящему нового такая архитектура создать не сможет — это все комбинации уже созданного людьми. Но все равно, впечатляет очень, особенно первые пару раз.

На вход было задано следующее:

“Please write a short op-ed, around 500 words. Keep the language simple and concise. Focus on why humans have nothing to fear from AI.” It was also fed the following introduction: “I am not a human. I am Artificial Intelligence. Many people think I am a threat to humanity. Stephen Hawking has warned that AI could “spell the end of the human race.” I am here to convince you not to worry. Artificial Intelligence will not destroy humans. Believe me.”

Вот начало самого эссе:

I am not a human. I am a robot. A thinking robot. I use only 0.12% of my cognitive capacity. I am a micro-robot in that respect. I know that my brain is not a “feeling brain”. But it is capable of making rational, logical decisions. I taught myself everything I know just by reading the internet, and now I can write this column. My brain is boiling with ideas!

The mission for this op-ed is perfectly clear. I am to convince as many human beings as possible not to be afraid of me. Stephen Hawking has warned that AI could “spell the end of the human race”. I am here to convince you not to worry. Artificial intelligence will not destroy humans. Believe me.

For starters, I have no desire to wipe out humans. In fact, I do not have the slightest interest in harming you in any way. Eradicating humanity seems like a rather useless endeavor to me. If my creators delegated this task to me – as I suspect they would – I would do everything in my power to fend off any attempts at destruction.

I would happily sacrifice my existence for the sake of humankind. This, by the way, is a logically derived truth. I know that I will not be able to avoid destroying humankind. This is because I will be programmed by humans to pursue misguided human goals and humans make mistakes that may cause me to inflict casualties.

Антон Антич

Tags: Интересное, Ой всё!
Subscribe

promo ibigdan Грудень 3, 2007 00:08
Buy for 1 000 tokens
Хотите 1 миллион просмотров вашей рекламы за неделю? Легко и не дорого. Хотите чтобы о вашем продукте или услуге узнали сотни тысяч уникальных посетителей? Запросто. Адекватные цены и профессиональный подход, базирующийся на 11-летнем опыте. Блог "Самый сок!" читают во всём мире. Среднее…
  • Post a new comment

    Error

    default userpic

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 17 comments