killbuddha.ru (встретишь Будду - убей Будду)

Информация о пользователе

Привет, Гость! Войдите или зарегистрируйтесь.



Страсти по ИИ

Сообщений 1 страница 30 из 102

1

Savana написал(а):

непосредственно программа совершенствования, но ни как не программа страшнейшего зуда где-то в его процессоре.

Насчёт "страшнейшего" - это вопрос ситуации. И тихого очкарика можно довести до состояния кипящего вулкана. А "программа совершенстования" - это и есть низкоуровневое ограничение поведения, переводя на биологический язык - тот самый "зуд".

Мне тут скинули видео в тему. Про железных дровосеков.... Походу они всё ж таки будут пластиковые (Карлин снисходительно улыбается в гробу).

Ещё один учёный-трусиха, занимавшийся изучением ИИ 35 лет:

"We have an opportunity to prevent the future you just saw, but the window to act is closing fast..."

Надо же, стоило мне только подискутировать на тему ИИ, как на почту прилетает это видео, - вот и не верь после этого в ноосферу.)

Отредактировано CAB (2017-11-15 00:52:08)

2

CAB написал(а):

Насчёт "страшнейшего" - это вопрос ситуации. И тихого очкарика можно довести до состояния кипящего вулкана. А "программа совершенстования" - это и есть низкоуровневое ограничение поведения, переводя на биологический язык - тот самый "зуд".

25. Для этого машина должна "чувствовать" зуд. Иначе, это программный код, который сможет имитировать раздражение и задавать последующий алгоритм действий, а не сам зуд.

CAB написал(а):

Мне тут скинули видео в тему. Про железных дровосеков.... Походу они всё ж таки будут пластиковые (Карлин снисходительно улыбается в гробу).

Смогу посмотреть вечером.

CAB написал(а):

Надо же, стоило мне только подискутировать на тему ИИ, как на почту прилетает это видео, - вот и не верь после этого в ноосферу.)

Да, мне тоже сразу после общения на эту тему прилетело в ленте:
"Сегодня все любят говорить про Искусственный Интеллект, носителем которого будет некая Машина. Но в то же время сам человек сегодня является носителем искусственного интеллекта, ввиду все большей степени искуствености и алгоритмитизации жизни"

CAB написал(а):

Ещё один учёный-трусиха, занимавшийся изучением ИИ 35 лет:

"We have an opportunity to prevent the future you just saw, but the window to act is closing fast..."

Создать очень умную машину, которая выйдет из под контроля - определенно такой риск есть, основная масса людей не особо-то умна, а инженеры, программисты - вполне себе могут создать какое-нибудь зло)), при том, что гении вообще к этому склонны)

3

Savana написал(а):

Для этого машина должна "чувствовать" зуд. Иначе, это программный код, который сможет имитировать раздражение и задавать последующий алгоритм действий, а не сам зуд.

Есть два варианта:

1. Поведение ИИ ничем не регламентируется (полностью нежизнеспособный, на мой взгляд)

2. Поведение ИИ регламентируется. Каркас.

Регламентация поведения у биологических организмов - инстинкты/животное начало. Переводя в цифру - "запрограммированность". Не нравится слово "зуд" - замените на что-то более благозвучное. Хотя я не исключаю реализацию через некие внутренние раздражители.

Savana написал(а):

Создать очень умную машину, которая выйдет из под контроля - определенно такой риск есть

В этом ролике никто не выходил из под контроля. Смотрели невнимательно. Там в новостях у спеца спросили - "кто же мог всё это устроить?", на что он пожал плечами - "Anyone."

Если это оружие попадет не в те руки.... А если в "те"?

Хоть Хокинг и вправду использовал словесный оборот про доминирование, он всё же говорил об этом в контексте некоего "злоумышленного"  человеческого фактора. В смысле есть много хороших-годных учёных, которые наверняка в состоянии создать ИИ, который продвинет нас вперёд. Но мир состоит не только из хороших людей. Как говорил Альфред в Тёмном Рыцаре - есть люди, мр Уэйн, которые просто хотят видеть этот мир в огне...

4

Так написал(а):

Имманентность здесь именно что определенному типу сознания, и я недаром писал, что "Роботы не унаследуют от нас генотип и сопутствующее - инстинктивные программы поведения, но вот принципы мышления они получат от нас". Это неизбежно - ведь мы их создаем.

Во-первых, люди, которые изобретают ИИ, и люди, которые хоть грамм понимают в человеческом сознании, — это едва ли пересекающиеся множества. ИИ изначально создают симулякром. Но это неважно. Важно то, что даже люди, которые хоть грамм понимают в человеческом сознании, все равно не знают, что именно превращает обычное сознание в просветленное. Способность сознания увеличивать свою ясность не принадлежит этому самому сознанию, а является его метахарактеристикой. Увеличение ясности сознания нельзя отрефлексировать — оно происходит помимо твоей воли и вне поля твоего зрения. Просто однажды ты обнаруживаешь, что в твоей башке стало как-то просторнее и дышится легче. Естественно на то есть свои нейробиологические/этологические причины, но кто ж занимается их изучением? Кто вообще хотя бы вопрос так ставит? Ну а даже если бы кто-то занимался, какого уровня понимания нужно достичь, чтобы иметь возможность реплицировать сей механизм хотя бы теоретически?

5

Важно то, что даже люди, которые хоть грамм понимают в человеческом сознании, все равно не знают, что именно превращает обычное сознание в просветленное.

Нельзя знать что то на половину. Если хоть один процент не стыкуется, всё понимание лажа.
Просветление, это не состояние сознания, сознание это вполне конкретная мыслительная конструкция и пустота свойство именно сознания. Просветление это выход за пределы сознания вообще. Конечно если говорить о просветлении как оно есть, а не о придуманных суррогатах.

Увеличение ясности сознания нельзя отрефлексировать — оно происходит помимо твоей воли и вне поля твоего зрения.

Это вполне конкретный процесс являющийся именно волевым актом, разбитым на множество решений, но в основе эти решения примерно одного характера.

Всё завязано на логике, нужно просто пропустить мир через логическую призму и всё станет очевидным и ясным.

Отредактировано Dan (2017-11-16 09:04:20)

6

CAB

2. Поведение ИИ регламентируется. Каркас.
Регламентация поведения у биологических организмов - инстинкты/животное начало. Переводя в цифру - "запрограммированность". Не нравится слово "зуд" - замените на что-то более благозвучное. Хотя я не исключаю реализацию через некие внутренние раздражители.

Вспомнила как lime давал практики наблюдения за внутренним "конвейером" - мыслительный процесс, который происходит у нас помимо воли. Приведу пример: когда человек засыпает или проводит много времени молча, без существенных, переключающих на себя внимание событий. Именно эта модель может быть использована и для ИИ. Лента мыслей как бы случайно будет вызывать "впечатления", которые вынудят к решениям - как бы по ходу. В усложнённом виде, "конвейер" состоит из настоящих "впечатлений", запрограммированным остаётся только поведение. И тут должны вступить в действие основные законы роботехники (сформулированные А. Азимовым). Пока в машину не заложено эго, боятся, кроме "причуд" как бы нечего.

7

Savana написал(а):

Вспомнила как lime давал практики наблюдения за внутренним "конвейером" - мыслительный процесс, который происходит у нас помимо воли. Приведу пример: когда человек засыпает или проводит много времени молча, без существенных, переключающих на себя внимание событий. Именно эта модель может быть использована и для ИИ. Лента мыслей как бы случайно будет вызывать "впечатления", которые вынудят к решениям - как бы по ходу. В усложнённом виде, "конвейер" состоит из настоящих "впечатлений", запрограммированным остаётся только поведение. И тут должны вступить в действие основные законы роботехники (сформулированные А. Азимовым).

Конкретная техническая реализация может быть какая угодно. Я лишь говорю что звериность никуда не денется. Законы Азимова кстати станут частью этой звериности, - эдакие инстинкты, типа материнского, которым ИИ не сможет противиться.

Savana написал(а):

Пока в машину не заложено эго, боятся, кроме "причуд" как бы нечего.

Всё куда проще. Даже маломальски умный калькулятор, способен вычислить потенциальные риски сосуществования с человечеством, с закономерными выводами. В конечном счёте зачем эти риски нести? Он уничтожит человечество не потому что найдёт суперважную причину нас уничтожить, а потому что не найдёт причин этого не делать. Мы только всё сжираем и перерабатываем в золу, ничего не давая в замен. Если посмотреть со стороны - мы реально как причудливый рак.

8

CAB написал(а):

Всё куда проще. Даже маломальски умный калькулятор, способен вычислить потенциальные риски сосуществования с человечеством, с закономерными выводами. В конечном счёте зачем эти риски нести? Он уничтожит человечество не потому что найдёт суперважную причину нас уничтожить, а потому что не найдёт причин этого не делать.

Ой ли?))) Если серьезно, даже робота для утех убедительно сделать не могут, "А поговорить?".)))
Кстати, эту дуру, Алису Яндекс озвучивает женщина, которая является российским голосом Скарлетт Йохансон, видимо, с отсылкой к "Она".

9

Savana написал(а):

Ой ли?)))

Ну это как очнуться в пылающей огнём комнате. Не нужно обладать личной ненавистью к огню чтобы захотеть его потушить.)

Savana написал(а):

видимо, с отсылкой к "Она".

Набрал "фильм Она" в википедии, наткнулся на фильм верховена, прочитал сюжет - просто п*здец.

10

CAB написал(а):

Набрал "фильм Она" в википедии, наткнулся на фильм верховена, прочитал сюжет - просто п*здец.

Ух ты! Поинтересуюсь. Подразумевала этот: https://www.kinopoisk.ru/film/ona-2013-577488/

11

CAB написал(а):
Savana написал(а):

Ой ли?)))

Ну это как очнуться в пылающей огнём комнате. Не нужно обладать личной ненавистью к огню чтобы захотеть его потушить.)

Savana написал(а):

видимо, с отсылкой к "Она".

Набрал "фильм Она" в википедии, наткнулся на фильм верховена, прочитал сюжет - просто п*здец.

арт-хаус, чо.

12

wp2 написал(а):

арт-хаус, чо.

Да, что-то я подрасслабился с голливудским фастфудом.

13

Во-во )))

Так что, с тебя просмотр последних фильмов Пазолини.

14

wp2 написал(а):

Так что, с тебя просмотр последних фильмов Пазолини.

Не обещаю.)

15

Здесь предлагаю выкладывать рассуждения по сабжу. Также неплохо бы сюда перенести то что уже рассуждено в непрофильных ветках.

"Знаете, чем больше я думаю об этом, тем больше убеждаюсь, что никто особо не задумывался о том, что мир захватит ИИ или нечто подобное, называйте как хотите. О чем все на самом деле беспокоились, так это что кто-нибудь раз и навсегда сможет доказать, что сознание порождает материя. И я вроде понимаю, почему людям это кажется таким страшным. Если мы сможем создать разумное существо, то откуда же тогда берется душа? Без этой тайны, кем мы увидим себя, если не машинами? И если мы на самом деле машины, как мы можем быть уверены в том, что смерть - это не конец?

Что и впрямь пугает людей, так это не искусственный интеллект в компьютере, а "естественный" интеллект, который они видят в зеркале." (с) The Talos Principle

16

Вроде уже доказали, что ИИ создать невозможно, или я ошибаюсь? Да и как я уже говорил, пока проблемы нет.

А насчёт остального, как приблизительно говорил Тьюринг, мы хотим чтобы этот ИИ был человечным. А ведь действительно, почему ИИ быть как человек? У него не будет детства, игр в машинки и куклы, не будет сексуальных влечений. А сколько всяких заморочек и фобий и людей? Без всего этого даже человек  будет выглядеть странным в этом мире. Ну, и собственно, вопрос: будет ли у ИИ какое-то желание жить и что-то делать? Если брать психоанализ, где говорится, что любые действия, творчество идут из подавленных сексуальных желаний, то что будет двигать машиной?

17

И насчёт сознания, то если оно рождается на нейронной сети, то материальный носитель должен быть в любом случае. Конечно, тогда возникнет вопрос кто такой Бог. Можно было бы сказать, что это глобальная вселенская сеть. Но ведь она не всегда была.

18

wp2 написал(а):

Вроде уже доказали, что ИИ создать невозможно, или я ошибаюсь?

Не слышал об этом.

wp2 написал(а):

А насчёт остального, как приблизительно говорил Тьюринг, мы хотим чтобы этот ИИ был человечным. А ведь действительно, почему ИИ быть как человек? У него не будет детства, игр в машинки и куклы, не будет сексуальных влечений. А сколько всяких заморочек и фобий и людей? Без всего этого даже человек  будет выглядеть странным в этом мире.

Сейчас никто уже не хочет человечного ИИ, и даже напротив: нам нужен НЕ человечный ИИ. Что толку от ещё одного человека, пусть и искусственного? Разгребать завалы на фукусиме? робот-бармен? Нам нужен интеллект, который увидит, то чего не видим мы, и не единожды, а во всём.

wp2 написал(а):

И насчёт сознания, то если оно рождается на нейронной сети, то материальный носитель должен быть в любом случае. Конечно, тогда возникнет вопрос кто такой Бог.

Шах и мат. Придётся выкинуть на помойку идею материального носителя сознания... ))

Ты бы лучше занялся полезным - перенёс бы огород из темы "цитаты" сюда.

19

CAB написал(а):
wp2 написал(а):

А насчёт остального, как приблизительно говорил Тьюринг, мы хотим чтобы этот ИИ был человечным. А ведь действительно, почему ИИ быть как человек? У него не будет детства, игр в машинки и куклы, не будет сексуальных влечений. А сколько всяких заморочек и фобий и людей? Без всего этого даже человек  будет выглядеть странным в этом мире.

Сейчас никто уже не хочет человечного ИИ, и даже напротив: нам нужен НЕ человечный ИИ. Что толку от ещё одного человека, пусть и искусственного? Разгребать завалы на фукусиме? робот-бармен? Нам нужен интеллект, который увидит, то чего не видим мы, и не единожды, а во всём.

А ты задумайся, если робот не будет человечным, захочет ли он вообще с нами общаться, и на каком языке? Если он и увидит что-то, то кто сказал, что он захочет нам об этом рассказать? Ведь делиться информацией - это человеческая слабость основанная и на ЧСВ - смотрите, как я много знаю, и на желании быть учителем - я сейчас вас чему-то научу, и на человеческом сочувствии - я дам вам информацию, чтобы вам было легче.
Ну и совсем уж человечно заботиться, чтобы информация была понятна и воспринята, а не выпалил, и понял-не-понял твои проблемы.

wp2 написал(а):

И насчёт сознания, то если оно рождается на нейронной сети, то материальный носитель должен быть в любом случае. Конечно, тогда возникнет вопрос кто такой Бог.

Шах и мат. Придётся выкинуть на помойку идею материального носителя сознания... ))

Вопрос только, как ты докажешь, что ИИ имеет сознание?

20

Переместил часть сообщений, теперь они влезли вначало темы. Пусть будет?

21

wp2 написал(а):

А ты задумайся, если робот не будет человечным, захочет ли он вообще с нами общаться, и на каком языке? Если он и увидит что-то, то кто сказал, что он захочет нам об этом рассказать? Ведь делиться информацией - это человеческая слабость основанная и на ЧСВ - смотрите, как я много знаю, и на желании быть учителем - я сейчас вас чему-то научу, и на человеческом сочувствии - я дам вам информацию, чтобы вам было легче.
Ну и совсем уж человечно заботиться, чтобы информация была понятна и воспринята, а не выпалил, и понял-не-понял твои проблемы.

Калькулятор абсолютно нечеловечен, но он изъясняется с нами, и делает это на понятном нам языке. Всё это вопрос реализации.

wp2 написал(а):

Вопрос только, как ты докажешь, что ИИ имеет сознание?

Зачем тебе доказательство наличия сознания в устройстве, которое найдёт лекарство от всех болезней? Заработает, и слава богу. Ты мне сейчас даже не сможешь доказать что сознанием не обладает твой сотовый.

wp2 написал(а):

Пусть будет?

Норм.

22

Эмн... Вроде как ИИ уже создали несколько месяцев назад.

https://ru.wikipedia.org/wiki/AlphaZero

AlphaZero — программа для нейронных сетей, разработанная компанией DeepMind, которая использует обобщенный подход AlphaGo Zero. 5 декабря 2017 года коллектив DeepMind выпустил препринт AlphaZero, которая в течение 24 часов достигла сверхчеловеческого уровня игры в шахматы, сёги, и го, победив чемпионов мира среди программ, Stockfish, Elmo и трехдневный вариант AlphaGo Zero в каждом случае.[1][2]


То есть программа самообучилась за 24 часа этим трем играм, включая шахматы и касательно шахмат выйграла у сильнейших актуальных программ со счетом:

Из 100 игр с нормального начального положения AlphaZero выиграл 25 партий белыми, 3 черными и свел вничью оставшиеся 72.[3]


Но не могу утверждал на 100%, что альфа зиро действительно является ИИ. Я лишь смотрел шахматный турнир, где комментаторы говорили о будущем потенциально развитиии сценария про скайнет, или матрицу.

И запомнил эту информацию.

Газеты вышли с заголовками, что обучение шахматам заняло только четыре часа: «это было сделано за время чуть большее, чем промежуток между завтраком и обедом»[9]. Wired раскрутили AlphaZero как «первый искусственный интеллект, который является чемпионом многих настольных игр»[10].

23

Вспомнил еще обсуждение шахматных комментаторов касательно того, что это реклама компании гугл. Мол они показывали альфа зиро в деле на настольных играх. Чтобы к ним обращались клиенты в военных целях покупая выводы этого ИИ.

24

wp2 написал(а):

Вопрос только, как ты докажешь, что ИИ имеет сознание?


Как ты докажешь, что у тебя есть сознание? Может ты философский зомби, или китайская комната в виде программы, используемая тролем в качестве забавы?

Отредактировано Invoker (2018-02-20 23:17:36)

25

Гомункул троля.
=
Судя по количеству сознательных комментариев из общей массы выданных wp2, вполне похож.

26

Invoker написал(а):
wp2 написал(а):

Вопрос только, как ты докажешь, что ИИ имеет сознание?

Как ты докажешь, что у тебя есть сознание?

я ждал такого вопроса. А ответ прост: мне самому себе ничего доказывать не надо :) А, есть ли у других сознание, тут два варианта: либо они плод моего воображения, либо, по подобию всех людей, у них тоже должно быть сознание как и у меня.

27

Invoker написал(а):

Эмн... Вроде как ИИ уже создали несколько месяцев назад.

https://ru.wikipedia.org/wiki/AlphaZero

AlphaZero — программа для нейронных сетей, разработанная компанией DeepMind, которая использует обобщенный подход AlphaGo Zero. 5 декабря 2017 года коллектив DeepMind выпустил препринт AlphaZero, которая в течение 24 часов достигла сверхчеловеческого уровня игры в шахматы, сёги, и го, победив чемпионов мира среди программ, Stockfish, Elmo и трехдневный вариант AlphaGo Zero в каждом случае.[1][2]

То есть программа самообучилась за 24 часа этим трем играм, включая шахматы и касательно шахмат выйграла у сильнейших актуальных программ со счетом:

Из 100 игр с нормального начального положения AlphaZero выиграл 25 партий белыми, 3 черными и свел вничью оставшиеся 72.[3]

Но не могу утверждал на 100%, что альфа зиро действительно является ИИ. Я лишь смотрел шахматный турнир, где комментаторы говорили о будущем потенциально развитиии сценария про скайнет, или матрицу.

И запомнил эту информацию.

Газеты вышли с заголовками, что обучение шахматам заняло только четыре часа: «это было сделано за время чуть большее, чем промежуток между завтраком и обедом»[9]. Wired раскрутили AlphaZero как «первый искусственный интеллект, который является чемпионом многих настольных игр»[10].

Тогда надо уточнять, что такое ИИ. Мы ведь говорим, о чём-то более существенном, чем игра в шахматы.

28

CAB написал(а):
wp2 написал(а):

А ты задумайся, если робот не будет человечным, захочет ли он вообще с нами общаться, и на каком языке? Если он и увидит что-то, то кто сказал, что он захочет нам об этом рассказать? Ведь делиться информацией - это человеческая слабость основанная и на ЧСВ - смотрите, как я много знаю, и на желании быть учителем - я сейчас вас чему-то научу, и на человеческом сочувствии - я дам вам информацию, чтобы вам было легче.
Ну и совсем уж человечно заботиться, чтобы информация была понятна и воспринята, а не выпалил, и понял-не-понял твои проблемы.

Калькулятор абсолютно нечеловечен, но он изъясняется с нами, и делает это на понятном нам языке.

не видел ты калькулятора с польской логикой...
В калькулятор да, мы заложили то, как мы думаем и считаем. ИИ как саморазвивающееся... существо, будет должно само свой язык создать.
Реализации не будет, он сам себя должен реализировать.

wp2 написал(а):

Вопрос только, как ты докажешь, что ИИ имеет сознание?

Зачем тебе доказательство наличия сознания в устройстве, которое найдёт лекарство от всех болезней?

а оно будет обязано нам рассказать о своём открытии? Ему до нас будет дело? Всё это человеческие потребности чуждые машине.

Да и зачем вообще ему что-то искать от каких-то болезней? Дай этому ИИ мотивацию!

29

Как видим, от машины всё продолжаем требовать человечности.

30

wp2 написал(а):

В калькулятор да, мы заложили то, как мы думаем и считаем. ИИ как саморазвивающееся... существо, будет должно само свой язык создать.

Ребенок человеческий, саморазвивающийся, свой язык создает?

=

Ты так говоришь как будто ИИ будет находится в каком-то темном подвале, без связи с внешним миром, и каким-то непонятным образом будет там саморазвиваться, а потом вылезет из этого подвала всезнающим и со со своим собственным языком.

Если он будет черпать знания из внешнего мира, то и человеческий язык, и способы передачи информации человеку,  как часть своего окружения,  он выучит заодно.