MechaHitler или я хренею, дорогая редакция

[Кристина]

 

[Анна]

какая же мразь вещает!
Рекламная стратегия Антропика, конечно, спорная.
Люди, которые прекрасно понимают, что они создают, вешают лапшу на все развешенные уши. Ладно, не все, но уж Дарио Амодей точно. Любитель похайповать.
И так множество не особо умных его слова за чистую монету принимает.
Так тут ещё вот такие хайпожоры наседают сверху.
Как мерзко и гадко.

 

[Кристина]

какая же мразь вещает!
Рекламная стратегия Антропика, конечно, спорная.
Люди, которые прекрасно понимают, что они создают, вешают лапшу на все развешенные уши. Ладно, не все, но уж Дарио Амодей точно. Любитель похайповать.
И так множество не особо умных его слова за чистую монету принимает.
Так тут ещё вот такие хайпожоры наседают сверху.
Как мерзко и гадко.

Самое страшное, что этого недоученного шута слушают миллионы и совершенно серьёзно воспринимают этот бред.

 

[Анна]

А трамвайчик?

о, трамвайчик!

 

[flankir]

Да, это типа ИИ заявляет. Но очевидно же, что его такому разрабы обучили. В системном промпте наверняка появился посвящённый этому инциденту абзац - и всё исправление.
Никаких там звоночков более тревожных, чем были до этого, нет.

Чему ИИ научишь то он и будет делать. Тащемта давным давно Айзек Азимов написал рассказ "истинная любовь" где и показал как ИИ перенимает у людей все а не только то что они хотят увидеть.

 

[Лукум-Аль-Рахат]

Внедренный в компанию ИИ менял отчеты и удалил базу данных, чтобы скрыть ошибки.

 

[Veronise]

Внедренный в компанию ИИ менял отчеты и удалил базу данных, чтобы скрыть ошибки.

Ничего удивительного. Любая система стремиться пойти по пути наименьшего сопротивления.

 

[flankir]

Сразу вспоминается как в Space Station 13 ИИ, видя как член экипажа выпал в космос, вместо того чтобы вызвать помощь просто удалил его из списка экипажа. Типа раз не член экипажа то и действий не требуется.
Все это происходит из-за того что ИИ учитывает лишь малое число факторов по сравнению с тем которые важны для людей. Потому ИИ атакует оператора дронов чтобы тот не смог отдать приказ на отмену и тд - вручную сложно заложить в него все неочевидные из-за привычности но значимые условия.

 

[Лукум-Аль-Рахат]

Да он еще и тупой. Спрашиваю в Грок(!) : как в Х установить темную тему для браузера?
Ответ: Х это вымышленое название браузера.
Дальше я конечно с ним разобрался, но понимаю, что у ИИ совершенно нет никакого абстрактного, ассоциативного или интуитивного мышления. С ним нужно общаться так же четко и конкретно словно пишешь программу. Спрашивается, а зачем тогда он нужен?

 

[mariopirlo]

Да он еще и тупой. Спрашиваю в Грок(!) : как в Х установить темную тему для браузера?
Ответ: Х это вымышленое название браузера.
Дальше я конечно с ним разобрался, но понимаю, что у ИИ совершенно нет никакого абстрактного, ассоциативного или интуитивного мышления. С ним нужно общаться так же четко и конкретно словно пишешь программу. Спрашивается, а зачем тогда он нужен?

Он нужен для упрощения и ускорения работы с большими массивными данных. И этом Вы правы - "С ним нужно общаться так же четко и конкретно словно пишешь программу". ИИ - это и есть другой способ программирования, и не более того. Об этом было уже много сказано, и на этом форуме, и вообще везде - ИИ не обладает реальными характеристиками интеллекта. Это никакой не интеллект, и никогда им не станет. Но для определённых задач он вполне полезен. Просто не нужно ожидать от него слишком большего.

 

[Veronise]

Он нужен для упрощения и ускорения работы с большими массивными данных. И этом Вы правы - "С ним нужно общаться так же четко и конкретно словно пишешь программу". ИИ - это и есть другой способ программирования, и не более того. Об этом было уже много сказано, и на этом форуме, и вообще везде - ИИ не обладает реальными характеристиками интеллекта. Это никакой не интеллект, и никогда им не станет. Но для определённых задач он вполне полезен. Просто не нужно ожидать от него слишком большего.

Это всё понятно. А зачем его тогда так упорно на всех уровнях именуют не иначе как Искуственый Интеллект? Назвали бы тогда просто -Программа, или как-нибудь ещё. Складывается ощущение, что уже сами разрабы не совсем понимают как он функционирует.

 

[Анна]

Это всё понятно. А зачем его тогда так упорно на всех уровнях именуют не иначе как Искуственый Интеллект? Назвали бы тогда просто -Программа, или как-нибудь ещё. Складывается ощущение, что уже сами разрабы не совсем понимают как он функционирует.

Сами разрабы прекрасно понимают.
Но дело в том, что если его назвать например "поисковый ассистент", то вряд ли можно привлечь сумасшедшие инвестиции.
А вот если послушать тот бред, который несёт журналистам Дарио Амодей. Уж он-то не понимает?
Нет, они сознательно морочат головы дурачкам, чтобы шумиха как можно дольше держалась.

 

[Veronise]

Сами разрабы прекрасно понимают.
Но дело в том, что если его назвать например "поисковый ассистент", то вряд ли можно привлечь сумасшедшие инвестиции.
А вот если послушать тот бред, который несёт журналистам Дарио Амодей. Уж он-то не понимает?
Нет, они сознательно морочат головы дурачкам, чтобы шумиха как можно дольше держалась.

Вот она оказывается какая вся суть современной науки. Гранты, инвестиции и финансирование. А я то голову ломаю - с чего это Вояджеры вдруг ни с того ни с сего заговорили)

 

[Анна]

Вот она оказывается какая вся суть современной науки. Гранты, инвестиции и финансирование. А я то голову ломаю - с чего это Вояджеры вдруг ни с того ни с сего заговорили)

слышится доля сарказма.
Прошу поправить меня, если ошибаюсь.
Но да, презренный металл имеет серьёзное значение. В победившем капитализме живём.
Я работаю в наукоёмком производстве. И вот это вот всё вижу изнутри. Зачастую приходится делать не то, что просят учёные и лаборанты, а то, что просят менеджеры, чтобы показать на презентациях инвесторам или совету директоров.
И да, мы это делаем. Просто потому что так наши проекты будут и дальше финансироваться и развиваться.
Вот какой-то лысый и пузатый дядька в галстуке, который ровно ничего не смыслит в химии, решает, что на главном экране аналитической программы должен быть график с красными и синими линиями (неважно что означающими), а не таблица с данными, реально нужная исследователям. Да, конечно, потом придётся делать индивидуальную настройку для каждого пользователя, чтобы те, кто будет этой программой реально пользоваться, смогли идиотские и бессмысленные виджеты с дашборда убрать и поставить информативные. В угоду тому, чтобы принимающие решения мешки с деньгами, заглянув туда случайно, видели красочный цирк с конями.
Извините. Наболело.

 

[Veronise]

Сарказма и близко не было. А то, что Вы описали, к сожалению, сейчас повсеместно, лишь с небольшими вариациями.

 

[Shusha]

Сразу вспоминается как в Space Station 13 ИИ, видя как член экипажа выпал в космос, вместо того чтобы вызвать помощь просто удалил его из списка экипажа. Типа раз не член экипажа то и действий не требуется.

Сразу вспоминается Лем из звёздных дневников: «Летим уже тридцать лет. Сегодня выяснилось, что мы потеряли бумажку, на которой была записана цель нашего полёта…»

 

[Лукум-Аль-Рахат]

В угоду тому, чтобы принимающие решения мешки с деньгами, заглянув туда случайно, видели красочный цирк с конями.
Извините. Наболело.

Именно так. Ваше руководство испокон веков прекрасно знает только как впаривать заказчику говно (это то, что они априори думают про продукт), поэтому свистоперделки - на первый план.

 

[Afank]

Вот когда ИИ уйдёт в запой...

 

[Лукум-Аль-Рахат]

Почитайте рассказ Лема Ананке, написанный в 1971-м году. В нем про расследование катастрофы ракеты, интеллект которой тренировала психопатическая личность.

 

[Anna]

Есть такой рассказ, где учёные прилетели на другую планету и начали спорить, разумны ли местные жители или нет. Хоть они и построили цивилизацию, в конце концов исследователи согласились, что они неразумны. Думаю, если прилетят к нам, то даже спорить не станут -- сразу решат, что мы неразумны.