блог добрых психиатров

Будем пользу причинять да ласкам подвергать!

Previous Entry Share Next Entry
Галлюцинации искусственного интеллекта
dpmmax
b1ed584dccd4c1322df659bd99d.jpg

Это задачка для айтишников и, возможно, сюжет для фантастического романа. Представьте себе ситуацию. Создан искусственный интеллект, сравнимый с тем, которым обладает человек. Но искусственный. То есть, никаких тебе гормональных всплесков и угасания, никаких ПМС, никакого плеска тестостерона в ушах, а также никаких последствий недостатка его же - но экзогенного. Естественно, стрессоустойчивость. Само собою, рациональность и ничтожная подверженность эмоциям. Задача - свести это совершенство с ума.


Не знаю, как вам, а мне кажется, что один способ это сделать, не ломая железо и не внедряя вирусы, всё же есть. Какой?

Если искусственный интеллект будет сделан по подобию человеческого, то у него будет одна постоянная потребность. Это потребность в постоянной обработке входящей информации. И если сделать так, что этот входящий поток прекратится, отрезав искин от потоков с сенсоров и прочих путей её добычи...

Получится сенсорная депривация. То есть, ситуация, когда "отключаются" органы обоняния, зрения, слуха, осязания - и мозг остаётся наедине с собой. С человеком такое уже проводили. Или оно само случалось (правда, чаще не в полном объёме): в пещерах, на подводных лодках, в космосе, при особых методиках допросов, во время исполнения ряда медитативных техник. Проводили опыты со специальной камерой сенсорной депривации: этакий большой бак с солёной водой, по плотности приближенной к плотности тела, и с температурой тела, и вся эта прелесть - в полной темноте и тишине.

Как правило, ничем хорошим (за исключением ряда случаев, но это отдельная тема) такая сенсорная депривация не заканчивалась. Тревога? Само собой. Депрессивные реакции? Тоже. И очень часто - галлюцинации. Словно попытка мозга восполнить информационный вакуум.

Мне вот интересно: если искин отсечь от входящей информации (и если при этом не будет включена опция "защитный спящий режим") - возникнут ли у него галлюцинации, как попытка заполнить образовавшийся информационный вакуум? И если да - какие они будут?




Напоминаю, что и я, и Оксана теперь консультируем по скайпу на базе московской клиники: http://dpmmax.livejournal.com/572627.html Все подробности и условия консультаций можно уточнить по телефону клиники: 8(495)2580003


Recent Posts from This Journal

  • Предостережение. Оно же оправдание

    Попытки найти в приведённых ниже байках признаки нарушения врачебной тайны, этики, а также прав пациентов столь же бесплодны, сколь и опасны для…

  • Истерические эпидемии, часть вторая

    Познакомившись с описанием истерических эпидемий в Европе и оценив их масштаб, кто-то из вас наверняка задал себе вопрос - а как же мы? Нешто в…

  • Бережнее надо с людЯми

    Вот всё-таки зря мужики не проводят некоторых параллелей. Вот с оружием большинство из них бережно обращается, по Максу знаю: чистит, в сейф…

  • Истерические эпидемии, часть первая

    Нас часто приводят в заблуждение устойчивые выражения, призванные донести до ума народную мудрость или просто красное словцо. Где тонко, там и…

  • Синдромы с красивыми названиями, часть вторая

    Продолжу знакомить вас с симптомами и синдромами в психиатрии и неврологии, которые получили красивые, звучные наименования. Кстати, заметил одну…

  • Синдромы с красивыми названиями, часть первая

    фотонатюрморт работы Елены Татульян Помнится, в институте на кафедре микробиологии профессор восхищался - дескать, какие красивые названия…

  • Зимняя спячка

    С утра у кошки было много дел. Ну как же, ночная вахта подходит к концу, весь линолеум старательно истоптан с этим нарочито громким…

  • Субботняя пирожковая

    Наступила суббота, и снова пришла пора побаловать себя и вас пирожками. Кое-что за эту неделю народ успел напечь, да и из более ранних запасов…

  • Чтобы лучше училось

    На днях старшей дочери стукнул двадцатник. Поскольку учёба у неё в эти дни в самом разгаре, и перед окончанием календарного года пошли сплошные…


promo dpmmax july 20, 2015 22:54
Buy for 700 tokens
Опыт сотрудничества с рекламодателями у нас богатый, и мы не планируем его прекращать. Среди заказчиков - такие замечательные компании, как Связной Трэвел, PEUGEOT, HILL'S, СПОРТМАСТЕР, Министерство туризма Швейцарии, PHILIPS и многие другие. Читателей у журнала много, и мы стараемся подавать…

Сдается мне, что ничего особого с ним не случится. Он таки уйдёт в спящий режим, ибо мозг не уходит туда потому, что надо поддерживать обменные процессы, так или иначе. А там - не надо. Так что просто будет "спать".

Возникнут, ага. Гугл и айбиэм же вроде что-то такое делали со своими искинами.

Это проект Deep Dream.

Там искины генерили картинки наподобие таких:



По запросу "Deep Dream" можно нагуглить ещё много психоделических картинок. Есть даже онлайн-сервисы, где можно загрузить свою картинку и получить то, что из неё компьютер нагаллюцинировал.

Но там не через сенсорную депривацию делали. Там, насколько я знаю, если проводить аналогии с человеческой психикой, максимально растормаживали процесс зрительных ассоциаций, и инвертировали некоторые процессы зрительного распознавания. В результате компьютер вместо того, чтобы просто узнавать в изображении некие ранее виденные образы, накладывал эти образы на исходное изображение.

Но вообще не следует проводить лишние параллели между искусственным интеллектом и человеческой психикой. Сейчас ИИ - это просто сложные классификаторы. И вряд ли в будущем кто-то станет делать ИИ на основе биологической психики - для практического применения у неё куча неудобств, а чтобы воспроизвести её в компьютере нужно будет произвести грандиозную работу. Может чисто в исследоватьских целях такое и сделают, но реальных роботов на её основе не будут делать.

Именно в силу "никаких тебе гормональных всплесков и угасания, никаких ПМС, никакого плеска тестостерона в ушах, а также никаких последствий недостатка его же - но экзогенного. Естественно, стрессоустойчивость. Само собою, рациональность и ничтожная подверженность эмоциям." ничего с ним не сделается.
Разве только что такой параметр как "потребность в некой производительной деятельности" будет неотъемлемой его частью. Но не исключено, что эту потребность он сможет удовлетворить путем моделирования различных комбинаций сигналов от сенсоров. Это как если бы человек пытался представить себе как выглядит мир в ультрафиолете, например. Возможно, это чем-то напомнило галлюцинации, с той только разницей, что у человека они возникают под воздействием внешних факторов, к которым можно отнести и болезнь, а в случае ИИ они будут аутогенными. Но это не будет сумасшествием.

Edited at 2017-02-03 06:20 am (UTC)

#define return if (std::random(1000) < 2) throw std::exception(); else return

//Счастливой отладки!

грубо говоря, во входящих данных нужно запилить немножко приятных и неожиданных внезапностей, совершенно нелогичного характера.

Edited at 2017-02-03 06:18 am (UTC)

А и Б сидели на трубе же :))

И еще, кроме отключения входящей информации, можно вносить случайную, либо определённым образом сориентированную. Как СМИ сейчас, например.

Вот да, кстати)

Интересно что галлюцинации и слепота - это две болезни не позволяющие пока в полной мере создать искусственный интеллект.
То есть или он не видит(не обрабатывает) очевидные вещи или наоборот видит то чего нет или несущественно.
Что касается нашего робота, будет развлекать себя написанием фантастических романов (где-то я уже это читал).

Представляю)))

Предположу, что создатьт искуственное сознание крайне малоивероятно, в перспективе. Соответственно, предполагать можно что угодно, но праверить мы не сможем. На мой взгляд более интересен вопрос что такое сознание, где оно находится, хронится и что с ним происходит после смерти человека? 


в библиотеках и интернете

Не будет. В мозг вшита программа, которая расценивает сенсорную депривацию в состоянии бодрствования как опасное для жизни состояние. Потому что невозможно оценить состояние внешней среды и спрогнозировать своё поведение. Вот вносить противоречащую информацию - это да, это сработает.

Искусственный интеллект сам по себе набор программ, имитирующих представления программиста об умственной деятельности. Программы не могут сойти с ума.) Ума нет.
Но любая программа может имитировать безумие, если такая цель будет поставлена и предусмотрена на стадии проектирования.

Обычная ловушка антропоморфности. Машинка думает - следовательно, думает как человек (?!) - следовательно, и болячки будут такими же. Самолёт летает и в чём-то похож на птицу (два крыла и хвост), но неисправности самолёта не похожи на болезни птиц.

У искусственного интеллекта проблем не будет. Возьмите, к примеру, программиста. Дайте ему компьютер. Он будет заниматься неделями. То же с математиками, физиками, инженерами. Вспомним Григория Перельмана, да? Даже премия ему не нужна. А журналисты и подавно. А уж если никакие вещества влиять не будут, то интеллект точно не сойдёт с ума за время существования вселенной.

У Ефремова же в "Лезвии бритвы" описано. В смысле, с человеком. У некоторых ламаистских монахов есть такое испытание.

Эта история с жидкостью и темнотой отлично отражена в сериале Очень Странные Дела


Доктор, Вы действительно не видели такого рода штук: http://modny.spb.ru/articles/inceptionism ?

Но вообще говоря, под словами "искусственный интеллект" сегодня понимается множество самых разных вещей. Мне кажется не всегда относящихся к данному контексту. Интеллект это просто машина, хоть у человека хоть в некой модели. Мотивация, постановка задачи, эмоции к нему не имеют никакого отношения. Поэтому задача "свести с ума" это просто задача вывести из строя. А потребностей у него не будет, как у ДВС нет потребности двигаться. Взрывается смесь -- пошло движение; подали ток, подали задачу -- пошло решение. А что не все задачи следует решать -- это постановка задачи.

Однако: зачем заниматься морфологией слонопотамов? :-)
Пока нет научной базы, которую можно подвести под саму идею возможности ИИ. Более того, под его невозможность такая база подведена! Так что вопрос о психически расстройствах ИИ, мягко говоря преждевременен...

?

Log in

No account? Create an account