Пугающие фкты про искусственный интеллект
автомобильной техники, ростом количества умных бытовых приборов и т. д.
На переднем крае всех этих изобретений находится искусственный интеллект
(ИИ), который является продуктом развития автоматизированных
компьютерных систем, которые в свою очередь могут соответствовать или
даже превосходить людей в разумности.
ИИ считается следующим
большим достижением, таким большим, что будущие технологии будут
зависеть от него. Однако, знаем ли мы к чему стремимся? Вот десять
пугающих фактов об искусственном интеллекте.
9. Ваш самоуправляемый автомобиль может быть запрограммирован таким образом, чтобы убить вас
Предположим,
вы едете по дороге. Затем внезапно перед вашей машиной появляется
группа детей. Вы нажимаете на тормоза, но они не работают. Теперь у вас
есть два варианта. Первый: наехать на детей и спасти свою жизнь. Второй –
врезаться в соседнюю стену или столб, и тем самым спасти детей, но
убить себя. Что бы вы выбрали?
Большинство людей согласны врезаться в столб и убить себя.
А
теперь представьте, что ваш автомобиль самоуправляемый, и вы пассажир.
Вы все еще хотите, чтобы он врезался в столб и убил вас? Большинство
людей, которые согласились, что врежутся в столб, будучи за рулем, также
согласились с тем, что они не хотят, чтобы их самоуправляемая машина
врезалась в столб и убила их. На самом деле, они даже не купят такой
автомобиль, если будут знать, что будут подвергаться риску в результате
несчастного случая.
Это подводит нас к другому вопросу: что бы сделали машины?
Автомобили
будут делать то, на что их запрограммировали. Производители
самоуправляемых автомобилей об этом не говорят. Большинство из них,
такие как Apple, Ford и Mercedes-Benz, тактично уклоняются от этого
вопроса. Исполнительный директор Daimler AG (материнская компания
Mercedes-Benz) однажды заявил, что их самоуправляемые автомобили «будут
защищать [пассажира] любой ценой». Однако Mercedes-Benz опроверг это,
заявив, что их транспортные средства сконструированы так, чтобы такой
дилеммы никогда не возникло. Это весьма сомнительно, потому что все мы
знаем, что такие ситуации случаются.