Корпорація Майкрософт отримала патент на перетворення вас на чат-бота

Що робити, якщо найважливіший показник ваших життєвих зусиль не має нічого спільного з вашим досвідом, а лише ваше ненавмисне покоління реалістичної цифрової копії себе, зразка стародавньої людини для розваги людей у ​​4500 році, ще довго після того, як ви залишили цей смертельний файл? Це найменш жахливе питання, порушене нещодавно виданим патентом Microsoft на одного чат-бота.

Помітив це спочатку раніше Незалежний, Американське бюро патентів та товарних знаків запевнило Gizmodo електронною поштою, що корпорація Майкрософт поки не має права виробляти, використовувати або продавати цю технологію лише для того, щоб не допустити інших. Патентна заявка була подана у 2017 році, але затверджена минулого місяця.

Чат-ботом за замовчуванням, яким ви є (візуалізовано Детально тут) Про “соціальні дані”, що включає публічні дописи, приватні повідомлення, аудіозаписи та відео. Це може мати 2D або 3D форму. Це може бути “сутність у минулому або сьогоденні”; “Друг, родич, знайомий, [ah!] Відомий персонаж, вигаданий персонаж, історична особа “, зловісна річ,” випадкова сутність “. (Останній з них, можна здогадатися, може бути аргументованою версією фотореалістичної машинно-створеної бібліотеки зображень ThisPersonDoesNotExistТехнологія може дозволити вам зареєструватися на “певному етапі життя”, щоб у майбутньому спілкуватися з молодими людьми.

Особисто мені подобається той факт, що мій чат-бот стане марним завдяки моєму обмеженому текстовому словниковому запасу (“omg” “OMG” “OMG HAHAHA”), але мозок у Microsoft це розглянув. Чат-бот може генерувати думки, яких у вас немає, і відповідати на запитання, які вам раніше не задавали. Або, за висловом Microsoft, “один або кілька сховищ даних чату та / або API можуть використовуватися для відповіді на діалог користувачів та / або запитання, щодо яких дані соціальних мереж не надають даних”. Коментар заповнювача може бути здогаданий за краудсорсинговими даними людей, що мають сумісні інтереси та думки, або демографічною інформацією, такою як стать, освіта, сімейний стан та рівень доходу. Він може уявити вашу думку щодо того чи іншого питання на основі “сприйняття аудиторією” подій. «Психографічні дані» є у списку.

Коротше кажучи, ми розглядаємо монстра машинного навчання Франкенштейна, який воскрешає мертвих, збираючи надзвичайно особисті дані без обмежень.

“Це страшно”, – сказала Дженніфер Ротман, професор права в Університеті Пенсільванії та автор книги Право на публічність: перероблена конфіденційність для суспільного світу Він повідомив Gizmodo електронною поштою. Якщо є якесь заспокоєння, такий проект здається юридичною мукою. Вона очікувала, що така технологія може спричинити суперечки щодо права на приватність, права на публічність, наклеп, неправдиве представлення, порушення торговельних марок, порушення авторських прав та неправдиве схвалення, “перелічивши лише кілька”. (Арнольд Шварценеггер наніс карту на карту за допомогою Цей керівник.)

Вона продовжила:

Це також може порушити біометричне законодавство про конфіденційність у штатах, таких як Іллінойс, які мають ці закони. Припускаючи, що збір та використання даних допустимі, і що люди безумовно вирішили створити чат-бот на власний образ, технологія все одно викликатиме занепокоєння, якщо цих роботів чітко не визначать як самозванців. Можна також уявити купу зловживань технологіями, подібних до тих, які ми спостерігаємо з deepfakes – швидше за все, не те, що планує Microsoft, але тим не менше може очікувати. Замасковані, але несанкціоновані чат-боти можуть створювати проблеми національної безпеки, якщо, наприклад, чат-бот виступає від імені президента. І можна було б уявити, що несанкціоновані чат-боти знаменитостей можуть розмножуватися способами, які можуть бути сексуальною або комерційною експлуатацією.

Ротман зазначив, що, хоча ми маємо реалістичних ляльок (наприклад, глибокі фальшивки), це перший патент, який, на їх думку, поєднує цю технологію з даними, зібраними через соціальні мережі. Є кілька способів, за допомогою яких Microsoft може пом’якшити проблеми з різним ступенем реалізму та явними відмовами. Персоніфікація, як Кліппі Папір, за її словами, може допомогти.

Незрозуміло, який рівень згоди необхідний для збору достатньої кількості даних навіть для найбільшого бізнесу з цифрового воску, і Microsoft не ділиться рекомендаціями щодо угоди про потенційних користувачів. Але додаткові потенційні закони, що регулюють збір даних (Каліфорнійський закон про конфіденційність споживачів, Загальний регламент про захист даних Європейського Союзу), можуть поставити ключ до створення чат-ботів. З одного боку, Clearview AI, який відомий тим, що надає програмне забезпечення для розпізнавання обличчя правоохоронним та приватним компаніям, в даний час вимагає права монетизувати свій склад з Мільярди аватарів Взято з загальнодоступних профілів соціальних мереж без згоди користувачів.

Лорі Ендрюс, адвокат, який допоміг скласти інструкції щодо використання біотехнологій, Я уявив собі армію злих близнят-близнят. Вона сказала: “Якщо я буду балотуватися в президенти, чат-бот може сказати щось расистське, як ніби я був собою, і виключити мої шанси на виборах”. “Чат-бот може отримати доступ до різних фінансових рахунків або скинути мої паролі (на основі сукупної інформації, наприклад, прізвища домашнього улюбленця чи дівочого прізвища матері, до якої часто можна отримати доступ із соціальних мереж). Людину можуть ввести в оману або навіть поранити, якщо вона прийме свого терапевта. Двотижнева відпустка, але програма автоматичного чату, що імітує терапевта, продовжувала надавати послуги та свої рахунки без відома пацієнта про перемикання.

Сподіваємось, це майбутнє ніколи не проходить повз, і Microsoft визнала, що технологія моторошна. На запитання про коментар, речник направив Gizmodo на Твіт Від Тіма О’Брайена, генерального менеджера програм штучного інтелекту в Microsoft. “Я дивлюсь на це – дата впровадження (квітень 2017 р.) Передує оглядам етики ШІ, які ми робимо сьогодні (я сиджу на панелі), і я не знаю жодного плану зведення / доставки (і так, це дратує)”.