Искусственный интеллект, ChatGPT

[NWEN 9 012]

Короче по классике, - запретить и не пущать.

Зачем от нейросеток защищаться если их можно использовать во благо.

Единственное мое опасение, что люди научат нейросетку всяким гадостям, просто по образу и подобию своему. А gpt, - поиграются люди, автоматизируют всякую бредогенерацию для SEO( я с ужасом себе представляю как они доберутся и начнут писать свои "продающие тексты", и как потом через этот шлак продираться), может приспособят этот типа ии решить проблемы которые он же создал(тот же поиск), и будет еще одна технология, наряду со смартфонами да гуглом.

[Аид 87 370]

Ну в свободном доступе ИИ по конец 2021 года. Чего осилили за 22 и 23 пока скрывают.

[beornborn 3 868]

это как в рулетке, где ты всегда удваиваешь, но если на 0 выпадет - теряешь все. 

так и с прогрессом, надо вовремя остановиться, чем дольше играешь, тем ближе ошибка, которая лишит всего. 

я не говорю навсегда все заморозить, но основательно подойти к рискам. 

а то прикольно конечно устроено, несколько тысяч фанатов балуются, а огребут миллиарды, которым на все это плевать. 

если кто-то сильный и уверенный любит прыгать с парашютом, молодец, только я не должен вместе с ним в больнице лежать. 

[+Ole_ksA 861]

11 часов назад, NWEN сказал:

Не стоит воспринимать gpt как что-то сверхординарное. А вот разобраться подробнее что оно такое стоит, особенно если страшно. Разобравшись, - страх уйдет, как и непомерный оптимизм относительно его возможностей.

10 часов назад, beornborn сказал:

и тот факт что наша нейронная сеть по сравнению с нейросетями других видов животных, очень большая, то

 

 

 

Змінено 4 квітня, 2023 користувачем Ole_ksA

[NWEN 9 012]

8 часов назад, Аид сказал:

Ну в свободном доступе ИИ по конец 2021 года. Чего осилили за 22 и 23 пока скрывают.

Та чего ж...

gpt4 уже доступен, правда за денежку или в bing можно попробовать
Лучше, круче, но суть та же.

Но все же, основное что стоит понимать о нейросетях и компьютерной лингвистике, - они не подразумевают за собой самосознания. Они могут его имитировать, они могут(при наличии достаточной мощности) имитировать даже человеческие поведенческие реакции, и эмоции, но они все базируются на том наборе информации который им доступен, что влечет за собой то что:

1. знание GPT это результат суммарного человеческого знания в интернете

2. все обобщения сделанные такой нейросеткой не могут выходить за рамки общедоступной картины мира(без побуждения от исследователя нейросеть не может сделать открытие по определению)

3. у нее нет побуждения, мотива, в отличие от любых живых существ, тоесть в этой части нейросеть стоит сравнить даже не с деревом(где сок зачем-то течет вверх, а не вниз как по физике), а со столом. пнул стол, - он сдвинулся, не пнул, - гниет себе на одном месте, так и нейросетка.

Ну и не так уж не совершенен наш мозг, - подсознание великая вещь, просто мы не умеем ее контролировать. Умели бы, - думаю смогли бы обрабатывать большие массивы информации не хуже чем  gpt. Быстродействие там потрясающее. Решать задачки по вышке меньше чем за минуту, или предугадать на основании еще не осознанных факторов что надо нажать на тормоз, - с этим он справляется за раз, главное находиться в потоке.

Кстати если кто помнит это ощущение, - когда впервые начало получаться за рулем, и появилось это чувство единения с машиной, поздравляю, это тот момент когда в подсознание загрузилась начальная часть необходимых данных и мозг вместо механизмов осознания начал использовать подсознательные механизмы, как будто авто является продолжением Вашего тела. И в таком режиме подсознательного управления всяким gpt до нашего мозга еще расти и расти, другое дело что механизм подсознания слабо объясним и слабо контролируем, и в случае нахождения там ошибочной информации может сделать неверное решение прежде чем человек успеет это осознать. Пример из автомобильной тематики, - при заносе на переднем приводе надо давать газу, хотя подсознание рефлекторно склонно тормозить. Сумев загрузить в подсознание то как работает авто, и почему нужно давать газ, - скорость верной реакции на занос поражает воображение, - в большинстве случаев он даже не начинается.

В общем прогресс не остановить, бояться нейросеток не надо, их надо использовать, и единственное что меня пугает это такая занятная книжица "Откровения Иоанна Богослова", - базируясь на ней, опасаюсь попыток человеков создать интерфейс для подключения нейросети к мозгу. Недостаточно данных чтобы осознанно что-то предполагать, но если базироваться на книге то подобная интеграция может привести к апокалипсису.

Змінено 4 квітня, 2023 користувачем NWEN

[beornborn 3 868]

10 часов назад, Ole_ksA сказал:

 

 

вы можете тезис выразить словами? 

[+Ole_ksA 861]

1 час назад, beornborn сказал:

вы можете тезис выразить словами? 

       Интерпретация понятия интеллект айтишниками и учёным, непосредственно изучающим работу мозга, различна.

       Человеческий интеллект способен создать нечто, что в природе не существовало в принципе, используя так называемое творческое мышление. Это будет результатом осмысленной разумной работы индивидуума с конкретной конструкцией мозга. 
        37:57   "Синаптогенез - это основной механизм возникновения долговременной памяти, временной памяти и нашего творческого мышления, т.е. образования связей, которых ещё не было никогда. Это физические связи."  © С.В.Савельев
         39:27   "Интенсивно думаете - работают и образуются связи. Но при этом, независимо ни от чего, две-три связи, а то и четыре-пять ... они начинают разрываться/расходиться. Т.е. опять разрыв физический. Ещё раз подчеркну - это физический процесс. Т.е. всё мышление, запоминание (у человека) - это морфогенез, физическое образование связей..." © С.В.Савельев
        Разрыв/образование связей между нейронами "завязано" на особенностях снабжения мозга необходимыми для этого веществами. 28:46 - метаболизм мозга ограничен.

         Айтишники же используют уже известные базы данных и прописывают алгоритмы/программы. Т.е. "железяка" не осуществляет творческий процесс - не вносит самостоятельно какие-либо новшества и не уничтожает что-либо в собственном алгоритме/коде. 

      Таким образом то, что сейчас именуют ИИ может быть опасен лишь тогда, когда человек внесёт соответствующие изменения в алгоритм его работы.  Поэтому использование маркетолагами-айтишниками слова интеллект без кавычек в названии продуктов типа нейросетей - не корректно. 

p.s.  Нейронки уже пишут дипломные работы, коды и програмки. А вот уязвимости в программном обеспечении могут находить? Даже если смогут, то принять самостоятельное решение, как этим воспользоваться, они не могут, если это не прописано в алгоритме их работы человеком-хакером.

[+Ole_ksA 861]

6 часов назад, NWEN сказал:

Ну и не так уж не совершенен наш мозг, - подсознание великая вещь, просто мы не умеем ее контролировать. Умели бы, - думаю смогли бы обрабатывать большие массивы информации не хуже чем  gpt

16:53 - энергетически нейроны не бесконечно могут увеличивать своё энергопотребление.

28:46 - метаболизм мозга ограничен.

Змінено 4 квітня, 2023 користувачем Ole_ksA

[+Ole_ksA 861]

7 часов назад, NWEN сказал:

опасаюсь попыток человеков создать интерфейс для подключения нейросети к мозгу. Недостаточно данных чтобы осознанно что-то предполагать, но если базироваться на книге то подобная интеграция может привести к апокалипсису.

42:26   "Интегрировать компьютер с человеческим мозгом не возможно потому, что мозг имеет ограничения по энергетическому обмену. А вот что делают и что можно сделать реально: искуственные глаза, искусственные уши, искусственное обоняние ..."  © С.В.Савельев

[beornborn 3 868]

1 час назад, Ole_ksA сказал:

       Интерпретация понятия интеллект айтишниками и учёным, непосредственно изучающим работу мозга, различна.

       Человеческий интеллект способен создать нечто, что в природе не существовало в принципе, используя так называемое творческое мышление. Это будет результатом осмысленной разумной работы индивидуума с конкретной конструкцией мозга. 
        37:57   "Синаптогенез - это основной механизм возникновения долговременной памяти, временной памяти и нашего творческого мышления, т.е. образования связей, которых ещё не было никогда. Это физические связи."  © С.В.Савельев
         39:27   "Интенсивно думаете - работают и образуются связи. Но при этом, независимо ни от чего, две-три связи, а то и четыре-пять ... они начинают разрываться/расходиться. Т.е. опять разрыв физический. Ещё раз подчеркну - это физический процесс. Т.е. всё мышление, запоминание (у человека) - это морфогенез, физическое образование связей..." © С.В.Савельев
        Разрыв/образование связей между нейронами "завязано" на особенностях снабжения мозга необходимыми для этого веществами. 28:46 - метаболизм мозга ограничен.

         Айтишники же используют уже известные базы данных и прописывают алгоритмы/программы. Т.е. "железяка" не осуществляет творческий процесс - не вносит самостоятельно какие-либо новшества и не уничтожает что-либо в собственном алгоритме/коде. 

      Таким образом то, что сейчас именуют ИИ может быть опасен лишь тогда, когда человек внесёт соответствующие изменения в алгоритм его работы.  Поэтому использование маркетолагами-айтишниками слова интеллект без кавычек в названии продуктов типа нейросетей - не корректно. 

p.s.  Нейронки уже пишут дипломные работы, коды и програмки. А вот уязвимости в программном обеспечении могут находить? Даже если смогут, то принять самостоятельное решение, как этим воспользоваться, они не могут, если это не прописано в алгоритме их работы человеком-хакером.

про творчество.

творчество - это и есть новое соединение уже существующего. 

невозможно придумать нечто, не состоящее из чего-то, что уже существует в природе. 

попробуйте придумать как выглядит цвет, который находится за спектром, который мы можем видеть. 

 

второе - ии это не совсем алгоритм. 

грубо chatgpt это система уравнений, в которой 75 миллиардов коэффициентов. 

невозможно предсказать что может подобная система. 

люди узнают что может подобная система экспериментальным путем - тестируя ее. 

и уже не раз получали результаты, которые не ожидали, то есть система могла то, чему ее не учили. 

пока что математически не доказано, что в такого рода системах не может возникнуть сознание или что система не способна стать способна еще на что-то другое. 

 

Савельев ссылается на разницу физического устройства биологической и компьютерной нейронной сети, и из этого делает вывод что компьютерная не может быть способна на что-то. но этот вывод не верен. с таким же успехом можно сказать, что люди не могут способны считать, потому что нейронная сеть способна только "угадывать". но это не так. другой момент что наша мощная нейросеть считает хуже, чем калькулятор. но благодаря усилиям тысяч людей можно создать огромную компьютерную нейросеть, которая сможет дойти до уровня человека - то есть обрести сознание. 

 

заметьте, прорывы в способностях нейросети были связаны не с какие-то открытиями в науке, алгоритмах и чего-то такого, а просто в увеличении размеров нейросети.