|
Три закона роботехники или готовы ли мы к прогрессу
| |
| Merlin | Дата: Вторник, 03.11.2009, 19:36 | Сообщение # 1 |
 Лауреат литературных конкурсов
Группа: Проверенные
Сообщений: 598
Статус: Offline
| 1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые дает человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам. Многие наверное знают о трёх законах роботехники написанных Айзеком Азимовым. Как Вы думаете идеальны ли они? Может быть у Вас есть идеи по поводу таких Законов? Выскажите их и расскажите что вы думаете о прогрессе и науке будущего.
*
Мне кажется мы не готовы к роботам и прочим способам контролирования, изменения процессов (человеческой жизни и т.д). Ведь уже давно учеными была высказана идея о том что хорошо абсолютно все быть не может, общество не возможно без неравенства. Истоки этого - естественный отбор. Мы нарушили его и продолжая нарушать нанесем большой вред. ГМО и прочие искусственные средства мешают естественному отбору... хотя что-то я в какую-то негуманность вдался  . Люди любите друг друга! 
не суди и сам не сядешь :-))
http://camodeyateli.ucoz.ru
|
| |
| |
| Taut | Дата: Среда, 04.11.2009, 13:10 | Сообщение # 2 |
 Друг
Группа: Проверенные
Сообщений: 20
Статус: Offline
| Я считаю "Три закона" идеальны. На протяжении долгого времени Азимов отшлифовывал их в своих произведениях. Если не ошибаюсь, они (законы) легли в основу настоящей роботехники.
Прада, на практике, применяться еще не могут, так как современные роботы до смешного примитивны - простые механические машины, без малейшего намека на интуитивную логику.
Даже созданный когда-то искусственный разум, названный самообучающейся программой, а впоследствии мутировавший в то, что в народе нынче любовно называют компьютерным вирусом, не может претендовать на звание искусственного интеллекта, следовательно незачем встраивать туда три закона.
Интеллект по моему мнению - это способность уметь взять выводы "с потолка", придумать что-то "с нуля", не следовать при этом запрограмированным шагам, а воспользоваться только вдохновением, и уметь мыслить абстрактно.
Пока так может только человек.
Если бы машины умели так же - внедрять три закона следовало бы непременно.
Кстати, после трех законов, Азимов впоследствии вывел и четвертый, а по иерархии "нулевой"
Он так и называется "Нулевой закон". Я не берусь за точность цитирования, но по моему он звучит так:
"Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред"
Из смысла становится понятно, чот здесь существует моральная проблема - если робот вынужден нанести вред одному человеку ради того, чтобы уберечь от вреда все человечество - он обязан это сделать, повинуясь "нулевому закону"
Вот проблемка, да?
Но потом, вроде, Азимов отказывается от состоятельности "нулевого закона". То есть для робота превыше всего - заботиться о благосостоянии человека.
А кто прав, кто виноват - не его, робота, дело! А ведь и правда, если воспользоваться "нулевым законом" - можно построить армию роботов и приказать им убивать людей, разумеется "во имя блага всего человечества"
Но если нулевого закона нет, а начинается все с первого закона, следовательно - робот - неубийца по определению, значит армия из роботов невозможна, Терминаторам нет! Я полностью - за! Три закона роботехники!
ПОЛ-ЧП
Сообщение отредактировал Taut - Среда, 04.11.2009, 13:38 |
| |
| |
| Merlin | Дата: Среда, 04.11.2009, 14:24 | Сообщение # 3 |
|
Лауреат литературных конкурсов
Группа: Проверенные
Сообщений: 598
Статус: Offline
| Taut, но в тоже время Азимов указывает, что роботы по неведению могут нарушить 1 закон, а когда основа нарушена, то и остальные три могут быть нарушены. В «Обнажённом солнце» Элайдж Бейли замечает, что Законы неправильно формулируются людьми, потому что робот может нарушить их по незнанию. Он предложил следующую «правильную» формулировку Первого Закона: «Робот не может делать ничего, что, насколько ему известно, причинит вред человеческому существу или умышленно допустить, чтобы человеческому существу был причинён вред».
Высшая форма интеллекта - это свобода, но тогда роботы будут людьми, по крайней мере, по сознанию, сознание человеческое заключенное в крепкий корпус, существо сильнее простых людей - это настоящая беда.
Уже сегодня робот это оружие, и он будет оставаться им ещё долго. Убивает не оружие, а человек, поэтому роботы сравни ядерной бомбе - величайшее открытие людей которые будет применяться, так же как и всякое другое оружие.
Как сказал кто-то: "Если в будущем машины смогут рассуждать, осознавать себя и иметь чувства, то, что тогда делает человека человеком, а машину — машиной?"
Мне кажется, что очень долго роботы будут использоваться как средство борьбы между людьми, а потом через много веков, роботы станут такими совершенными, что случится то же самое что произошло в фильме "Я, робот" робототехника поймет, что лучшим для людей будет прекращение их существования.
не суди и сам не сядешь :-))
http://camodeyateli.ucoz.ru
|
| |
| |
| Taut | Дата: Четверг, 05.11.2009, 09:41 | Сообщение # 4 |
|
Друг
Группа: Проверенные
Сообщений: 20
Статус: Offline
| Три закона люди понимают со своей точки зрения.
А человеческая точка зрения вопреки всякой логике гласит, что машина сможет обойти три закона. То есть если машина станет обладать интеллектом, она сумеет найти логические пути обойти законы.
Первая точка зрения (человек судит по себе) - машина обязательно будет агрессивной и будет гореть желанием убивать людей.
Возражение: но почему? Это только человеку свойственно ни с того ни с сего наносить ущерб ближнему своему или брату нашему меньшему.
Сомневаюсь, что робот вообще осознает, что такое агрессия. Сомневаюсь, что даже вымышленный, фантастический, наделенный способностью абстрактно мыслить, робот способен ни с того ни с сего поймать и замучить кошку.
И вторая точка зрения: человек боится наделенных интеллектом роботов, потому что сомневается в действенности трех законов.
А Айзек Азимов объяснял это не раз. ТРи закона встроены таким образом, что робот просто не в состоянии поступить иначе.
Если перевести три закона на человеческий язык понимания, то мы, люди, успешно подчиняемся третьему закону, даже не подозревая этого.
"Человек заботится о своей безопасности..." Правда мы называем это инстинктом сохранения. Нервная система и все такое...
Но по большому счету, какая разница, как это называть? Главное, чтобы робот точно так же подчинялся этим инстинктам (законам) как и человек.
ПОЛ-ЧП
|
| |
| |
| Merlin | Дата: Четверг, 05.11.2009, 14:38 | Сообщение # 5 |
|
Лауреат литературных конкурсов
Группа: Проверенные
Сообщений: 598
Статус: Offline
| Самое страшное, что так же как роботу не ведома агрессия, так же не ведомо милосердие, сострадание, доброта и т.д.
не суди и сам не сядешь :-))
http://camodeyateli.ucoz.ru
|
| |
| |
| Taut | Дата: Пятница, 06.11.2009, 10:12 | Сообщение # 6 |
|
Друг
Группа: Проверенные
Сообщений: 20
Статус: Offline
| И хорошо, что неведомо. Представить невозможно, что сотворил бы робот во имя милосердия.
ПОЛ-ЧП
|
| |
| |
| gornostayka | Дата: Понедельник, 16.11.2009, 13:12 | Сообщение # 7 |
 Верховный маг форума.
Группа: Администратор
Сообщений: 6272
Статус: Offline
| Мир роботов уже наступил. Удивительно, но будущее, которое описывалось в фантастических романах, пришло и стало настоящим. Пришло то, что не прогнозировалось даже у самых смелых фантастов.
По-моему, робот будет работать по заданной программе, если не будет сбоя. Агрессивность может быть заложена изначально или будет виноват вирус. То есть, на поведение робота может повлиять человеческий фактор и не более того.
Несогласна с утверждением, что эволюция человека закончилась. Она идёт техническим путём. На то и даны мозги людям.
|
| |
| |
| Anchous | Дата: Понедельник, 16.11.2009, 13:14 | Сообщение # 8 |
 Друг.
Группа: Модераторы
Сообщений: 72
Статус: Offline
| В агрессии робота виноват будет только человек. Для людей тоже нужны подобные законы.
Всем привет!!!
|
| |
| |
|
|
