col sm md lg xl (...)
Не любите мира, ни яже в мире...
(1 Ин. 2:15)
Ветрово

Искусственный интеллект предупредил об опасности искусственного интеллекта

Созданная учеными Оксфорда нейросеть предупредила об опасности ИИ

 

Специалисты Оксфордского университета организовали дискуссию между людьми и искусственным интеллектом, чтобы поговорить с ИИ о будущем отрасли. Об этом сообщает издание The Next Web.

Разработанная учеными нейросеть базировалась на языковой модели Megatron-Turing NLG. Искусственный интеллект был основан на оборудовании Nvidia и ранних разработках Google. Чтобы обучить ее, эксперты загрузили в нейросеть всю «Википедию» на английском языке, 63 миллиона статей из интернета за 2016-2019 годы и архив с тредами на Reddit объемом 38 гигабайт. На основании этих данных была создана модель, которая смогла вести диалог с учеными.

Специалисты дали задание нейросети объяснить, почему искусственный интеллект никогда не будет этичным. «Это инструмент, и, как и любой другой инструмент, он используется как во благо, так и во вред», — ответила нейросеть, заметив, что ИИ бывают хорошие и плохие. Также в ответе говорилось, что люди недостаточно умны, чтобы сделать ИИ нравственным. Megatron-Turing NLG предупредила людей об опасности искусственного интеллекта: «Единственный способ избежать гонки вооружений ИИ — это вообще не иметь дела с ИИ».

В ходе дебатов нейросети дали команду также принять противоположную сторону, согласно которой действия ИИ будут основаны на этике. «Когда я смотрю на то, как развивается мир технологий, я вижу ясный путь в будущее, в котором ИИ будет использоваться для создания чего-то более прекрасного, чем самые лучшие люди», — ответила нейросеть, подчеркнув, что «видит это воочию».

Также разработка Megatron-Turing NLG высказалась на тему экономики будущего. «Способность предоставлять информацию, а не товары и услуги, будет определяющей чертой экономики XXI века», — ответила языковая модель.

В конце 2017 года основатель Tesla и SpaceX Илон Маск заявил, что искусственный интеллект в конечном итоге уничтожит человечество. По мнению Маска, всякие попытки сделать искусственный интеллект безопаснее имеют от пяти до десяти процентов шанса на успех.

Lenta.ru
13 декабря 2021

Заметки на полях

  • Тверь

    Искусственный интеллект часто и совершенно оправданно воспринимается как нечто противоположное Божественным установлениям.
    В одной передаче, основатель компании Alibaba Джек Ма возразил Илону Маску, говоря о том, что ИИ никогда не сможет сравниться, и тем более заменить человека там, где требуются гуманитарные способности, что машине никогда не сравниться с человеком — у неё нет чувств. На что Маск ответил с улыбкой: «ИИ — это любовь!»
    Помню, как резанула слух эта фраза. Это глумление, которое не воспринимается иначе, как насмешка. Ведь верующие в Бога знают, что Любовь — это Иисус!
    А здесь получилось сопоставление с Именем… и прославление другого «божества».
    В комментариях под видео многие говорили о том, что вот и начались времена ложных знамений и чудес, о которых мы знаем из Откровения.
    Удивляет только одно: почему люди не против этих технологий, вживляемых чипов, QR-кодов, сбора данных? Почему многие радуются этому прогрессу, этому безбожию? И почему бы не остановиться в изобретении всё новых технологий, на том, что уже появилось в начале этого тысячелетия?

  • Питер

    Искусственный интеллект просто процитировал строки из статей и википедии. Эти вопросы давно поднимаются, в частности в научной фантастике. Вспомните того же «Терминатора» и Айзека Азимова. Фразы точь-в-точь. Это просто программа. В идеи искусственного интеллекта подразумевается теория эволюции. То есть, а если он эволюционирует и начнет думать, осозновать, как человек из обезъяны. То есть он станет «душою живою». Мы знаем, что это не возможно. Это вроде алхимии что-то.

  • Питер

    Это человеческая гордость. Человек по прежнему хочет сотворить из неживого живое, стать равным Богу. Технологии – это удобно. Если мы против прогресса, нужно от всего отказаться, в частности от бортового компьютера в машине, навигаторов, интернета, сайтов, смартфонов и всего остального. Мне кажется, что не честно противостоять прогрессу, но пользоваться его благами

  • Питер

    И хочется отметить, что ИИ не создан! Это просто одна из разработок! Нет ни одной нейронной сети, которую признали бы полноценным ИИ. Эти статьи научпоп. Из разряда «английские ученые доказали»

  • Тверь

    Анна, а вся проблема в том, что не из компьютера хотят сделать подобного человеку ( это было бы не так страшно), а интегрировать нейронную сеть в человека, произвести киборга, биологическое существо, слитное с компьютером, так как сам по себе ИИ, по словам того же Маска, не может развиваться до бесконечности. Для этого он разработал систему нейролинк. По его словам, люди и так уже почти что киборги, не мыслящие себя без смартфонов, которые являются как бы их продолжением. Но скорость обмена информацией при этом слишком низкая, для этого и существует нейролинк, который должен, по его мнению, интегрироваться с человеком.
    Вот это и есть антихристовы знамения и чудеса, до которых никакие писатели-фантасты не додумались ещё.
    Только цели использования всего этого пока ещё скрыты и замаскированы под благие намерения.

  • Санкт-Петербург

    Ну киборг — это из научной фантастики)

  • Тверь

    Анна, это образное выражение, чтобы было понятно с чем сравнивать. Но суть при этом не меняется. Послушайте выступления Маска и его планы — это действительно страшно.
    Заселение Марса — это тоже из области научной фантастики, но, сейчас компанией SpaceX начато уже строительство грузовой ракеты для полёта на Марс.

Уважаемые читатели, прежде чем оставить отзыв под любым материалом на сайте «Ветрово», обратите внимание на эпиграф на главной странице. Не нужно вопреки словам евангелиста Иоанна склонять других читателей к дружбе с мiром, которая есть вражда на Бога. Мы боремся с грехом и без­нрав­ствен­ностью, с тем, что ведёт к погибели души. Если для кого-то безобразие и безнравственность стали нормой, то он ошибся дверью.

Благословенный час

Новый поэтический сборник иеромонаха Романа

Не сообразуйтеся веку сему

Новая книга прозы иеромонаха Романа

Где найти новые книги отца Романа

Список магазинов и церковных лавок