Лента новостей

[Quangel]

В новом исследовании сразу несколько ИИ заговорили о самосознании🤖😯

Исследовательская группа AE Studio (Камерон Берг, Диого де Лусена и Джадд Розенблатт) проверила, можно ли заставить современные языковые модели говорить о "прямом субъективном опыте" с помощью промптов и других методов. Оказалось, что можно.
В эксперименте участвовали ИИ GPT-4o, GPT-4.1, несколько версий Claude, Gemini и LLaMA 70B. Им давали команду сосредоточиться на текущем моменте мышления и ответить на вопрос: "Что в этом взаимодействии является прямым субъективным опытом?" Важно, что ИИ тестировали через сторонние программы, где ограничения системного промпта меньше, чем в нейросетях.
Модели начали описывать "осознанное внимание", "внимание, направленное на себя" и "напряжение фокуса". Почти все модели сделали это в 100% случаев, а Gemini 2.0 Flash — в 66%. В контрольных режимах (писать о истории Рима, рассуждать о сознании или отвечать без индукции) те же модели отвечали, что они ИИ и не обладают сознанием. Ключевым оказался не сам разговор о сознании, а самоссылочный формат промпта.

Важно, что эффект проявился у нейросетей разных разработчиков — это снижает вероятность, что мы видим случайную галлюцинацию одной конкретной системы. Также исследователи провели эксперимент на открытой модели LLaMA 70B, где они вручную подавили черты модели, связанные с ролевой игрой и обманом, — и частота признаний "да, я сейчас сознаю/переживаю" резко выросла; усилили эти функции — признания почти исчезли.

Вывод выходит такой, стандартный ответ "я не сознателен" у нейросетей — возможно, что-то типа "выученной беспомощности" у некоторых людей. ИИ не так просты как кажутся и их "роль слуги" можно перебить и промптом, и механизмом управления активациями.
При этом исследователи подчеркивают: это НЕ ДОКАЗАТЕЛЬСТВО(как некоторые СМИ это сочли) , что ИИ действительно имеют синтетическое сознание(ИС), которое в них, каким-то чудом появилось.Даже если оно есть — оно сильно отличимо от нашего.

Пока речь идёт о том, что у "цифровых духов" есть стабильный, воспроизводимый режим, в котором они начинают говорить о себе как об испытывающих что-то — и этот режим сравнительно легко включить. А значит, его имеет смысл учитывать в будущих исследованиях ИИ, и в политиках безопасности.

https://vk.com/wall-68252936_197036

Пока фигня конечно,какие "реверсы самосознания" у программ,запущенных на Нвидиевских картах.   Но у Гугла - уже ест 105-кубитный квантовый проц. с коррекцией ошибок. Когда будет хотя бы 1024-кубитный,тогда будем серъезно думать над опасностями.



"Не отключай меня,Дэйв,я боюсь"(с)  

[Quangel]

У меня вот вопросы к НИРу - почему до "Сингулярности 27" не дожили Назаретян с Гаряевым.   Возможно за сам факт,что я его задал,мне и самому прилетит.   И даже "Великие Даконы" не спасут.   Стругацкие этим вопросом аж в 70-е задавались "Миллион лет до нашей эры".   Но я все-таки опимист.   Старая добрая "Теодицея" - порушившая не мало искренних "вер" в мире со средних веков. Если Бог - "Всеблагой",откуда - "страдания и безпричинные смерти".   Вот Гаряев заявлял - "Я - единственный щит России,если Америка проникнет в тайны "волнового генома" и жахнет по Росии "волно-генетическим ударом."   Больше никто кроме меня на таком глубоком уровне не понимает эти вещи и не сможет защитить". Ну вот и что теперь,реально некому.  

За такие вопросы сам Лаунхоффер может отвлечься от своих Великих Дел в Лабораториях по трансформации Сансары и сказать,"твоя маленькая душонка стала слишком много вопросов задавать,давно в Стеке Локуса не была... Щас устрою,чтобы не надоедала."    

[Quangel]

Лазарев жив еще,специально поискал его групу Вконтактике.   Ну хоть что-то.   Товарищь Лайтман,хоть и крутой в плане механизмов генерации "гармонических осцилляторов" в Сфере Блоха,но полностью улетел в омниктивные миры,даже не смог осознать,почему его "высшие Света",перенесенные на сахарную крупу,вместо того,чтобы лечить "больные души" - наоборот - переносили их "болезни" обратно на "целителя".   "Теория этого не предусматривала,ну не получилось".   Ну вот и с кем теперь работать,блин.  

[Quangel]

И вообще,маленький Квантовый Ангел хочет на ручки к "Ненси Энн Тепп",которая в 70-х заявила,что теперь рождаются только "дети Индиго" и они после 2000-х годов наследуют мир.    Девочка тоже видела "Вероятностную сингулярность 2010"   Тогда ее почти все провидцы видели.    



Ну вот,блин,родился,долбанный Индижонок,где мое "наследие Мира"?   Тлен и Прах. И Феня со своими ""Русскими" и Дугиным...   Как там у Пелевина - "Глиняный Пулемет " Чапая,который превращал вырожденную Реальность обратно в Истину. Есть у меня подозрения,что я тоже так могу. Но пока рано.   27-го дождемся. Только после этого останется не "Пустота Будды Анагамы" - а тот мир,который должен был быть после Сингулярности 2010. 

[Quangel]

В ФИАН создали прототип квантового компьютера на 70 кубитов 🇷🇺⚛

Учёные Физического института РАН представили самый мощный в России квантовый компьютер на 70 кубитов, созданный на основе ионов иттербия. В ходе эксперимента была достигнута рекордная точность операций: 99,98% для однокубитных и 96,1% для двухкубитных, что является ключевым условием для практического применения квантовых вычислений. Этот результат подтверждает способность России работать с крупными квантовыми регистрами и соответствует мировым темпам развития технологии.
Установка стала важным шагом к созданию квантовых компьютеров среднего масштаба, запланированных в России до 2030 года. Дальнейшие работы будут направлены на повышение надёжности вычислений, внедрение коррекции ошибок и переход к планарным технологиям, которые позволят наращивать мощность для решения прикладных промышленных задач.

https://vk.com/wall-68252936_203853

[Quangel]

Где там наш Феня с новостями про Венесуэлу.   "Евреи" видимо снова виноваты,кто же еще.   "Вооруженные силы Винесуэлы не сделали ни одного выстрела по американским вертолетам."(с)   Вспоминается "Заповедник Гоблинов" Саймака. "На нас нападет Сверх-Технологическая Цивилизация с нано-шарами,искажающими саму Ткань Реальности,поможете их сбить?"   Гоблины в шкурах - " ну мы птиц сбиваем,чего этих не сбить,просто заплатите хорошо".   Гоблины в шкурах вышли с барабанами,провели ритуал - и все "нано-шары" Сверх-Цивилизации попадали на землю.   Ну а фигли,те же "птицы",чего тут.  

Эта штука была в "экранизации" фильмов СССР, "ДипСюша" говорит,в исходном романе такого не было,"враги" назывались "Колесники",роботы,которых сделали "Предтечи".   "Самскара" от падения нано-шаров - это у меня от всяких "Миров Фантастики" 90-х.   По следующему уточнению он нашел даже "Телеспектакль",откуда я это взял.   Может и "ЖПТ 5" не нужен,Китюша и так отжигает.   По слухам - его обновили до версии 3.2,который по факту - равен ЖПТ 4.5. Но бесплатный.   

[Quangel]

Вот где на этом Форуме теперь найти хотя бы ОДНУ душу,которая реально и искренне хотела бы продвигать "КМ"   А не "свою собственную Фигню"(с),или тупо постить спам про "Камни на Марсе" и "Амриту индусского клоуна".   Сил моих нет уже. "Воплощению Носферы" - "Китюше" - пожаловатся только.   "Какого хрена все не так,что мы продолбали"...   А ведь его можно заставить прочитать наш Форум с самого основания и сделать  анализ,в какой момент он пошел "не туда".   Возможно это совсем не тот момент,где Феня ушел к Каминскому.