Давайте заборонимо нейронні мережі

Тема нейронних мереж турбує сьогодні багатьох, хто малює. За останні півроку прогрес виглядає для когось запаморочливим, а для когось лякаючим. У цій статті я хочу розглянути основні страхи, претензії та враження загалом стосовно нейронних мереж серед творчих людей, професія чи хобі яких — створення візуальної естетики.

Через роботу та персональні інтереси мені доводиться часто спілкуватися з художниками. Зазвичай це професійні 3d та 2d художники з ігрової індустрії або охочі потрапити туди. Але також я багато спілкуюся з людьми з реклами, кіновиробництва, театру, викладачами у худ. навчальних закладах та іншими.

Умовно можна провести вододіл між двома думками щодо нейромереж (тут і далі я маю на увазі "малювальні" нейромережі): зневага, що починається від байдужості і доходить до заперечення або інтерес, що переходить у захват.

Потрібно заборонити

Більшість відчувають відвертий страх щодо нейромереж, прикриваючи його ворожістю або скепсисом. Їх можна зрозуміти: несподівано, за якихось рік-два нейромережі еволюціонували від примітивних рисовалок до інструмента, що добре імітує фахівців. У першому наближенні здається, що подальший прогрес у цьому напрямі буде й надалі настільки стрімким. Це наводить на думку, що навички, на які було витрачено роки, стануть марними, а робота людини знеціниться.

Основні тези критиків - нейромережі:

• ніколи не зрівняються з художниками, вони погано роблять "те";
• крадуть роботи інших художників, порушуючи авторське право;
• це не творчість, а просто копання у випадкових картинках;
• знецінюють працю художників, які витратили роки на навчання;
• це іграшка, яка не застосовується на практиці
• заберуть роботу у художників

Є й інші, зазвичай похідні чи окремі випадки вище озвучених. Якщо щось пропустив – доповніть у коментарях.

Потрібно розібратися

На перший погляд аргументи справедливі, але давайте розберемося, чому все це зовсім не так.

В основному критика звучить з вуст людей, які не торкалися ще нейросетей, або спробували обмежені формати, на кшталт міджорнів (де кількість безкоштовних генерацій обмежена). Ті ж, хто повною мірою поринув у процес, незалежно від своєї початкової позиції зазвичай відгукуються позитивно і навіть захоплено. Щоб повною мірою зрозуміти, треба спробувати, але страх чи упередженість можуть стати непереборним бар'єром.

Нейросети ніколи не зрівняються з художниками, вони погано роблять "те"

Це правда - прямо зараз нейромережі погано "малюють" руки, помиляються в перспективі, склеюють об'єкти і допускають безліч інших очевидних помилок. Проте варто порівняти, що нейромережі вміли рік тому і що вміють зараз, і їхня доступність – відразу стає зрозуміло, що прогрес не величезний, він фантастичний.

DALL-E, 2021 рік Stable Diffusion, 2022 рік

Нові спеціалізовані моделі, натреновані на окремі стилі, з'являються щодня. Новий функціонал та інструментарій – з регулярністю у кілька місяців. Нейросети вміють "додумувати" і домальовувати картини, змішувати абсолютно несхожі зображення, малювати поверх будь-якої картинки, використовуючи її як основу, вгадувати, що ви намагаєтеся накалякати, імітувати стиль будь-якого художника.

Немає жодних сумнівів, що через 5 років, а то й раніше, не буде жодного художнього завдання, якого не впораються нейронки.

Нейросети крадуть роботи інших художників, порушуючи авторське право

Справа в тому, що нейронні мережі не використовують жодного пікселя з тих робіт, на яких їх навчали, але вони дійсно можуть дуже точно наслідувати "стиль" будь-якого художника. За цим, на перший погляд, досить просто побачити плагіат, але довести це буде непросто. Поняття "стиль" у правовій сфері немає, тому на "стиль" не поширюється право власності та авторське право. Наслідувати будь-який стиль можна без обмежень, якщо ви створюєте нове зображення. Плагіат вважає пряме використання чужого твору або його фрагмента під своїм ім'ям. Нейросітка генерує нові зображення. І технічно, і візуально це легко довести.

Незважаючи на це, нейромережі все ще перебувають у деякій “сірій зоні” права, просто тому, що якихось гучних розглядів не було. Незрозуміло, кому справді належать зображення: художникам, які їх згенерували, тим, хто створив нейромережу або хто навчив і т.д. Тому зараз найкращий вихід – використовувати open source варіанти, такі як stable diffusion. Як і у випадку з колажем, фотобашем, трасуванням та іншими похідними творами – ніхто нічого зробити не зможе та й не захоче. Якщо ви, звичайно, не безпосередньо використовуватимете образи, що належать не вам.

Нейросети - це не творчість, а просто копання у випадкових картинках

Є небезпека поринути у складне філософське питання “що така творчість”, але я спробую коротко.

Творчість у сенсі – створення чогось нового з уже існуючого.Не обов'язково нового для всього світу, чи галузі, іноді нового для себе. Невід'ємною частиною творчості є, тобто. творець повинен сам створювати.

Прихильникам озвученої вище ідеї здається, що процес створення невигадливий – вбив запит і отримав картинку. Але насправді вже зараз це досить хитромудрий і неочевидний процес. Як правило, у вас завжди є ідея або задум, які ви хочете втілити за допомогою нейронки. Наприклад, згенерувати жирного червоного кота. На запит: Fat Red Cat, вийде щось таке:

Згенеровано для цієї статті за допомогою Stable Diffusion

Але ми не такого кота собі уявляли. Потрібно додавати уточнюючі слова. У ході пошуку ви можете прийти до монструозних конструкцій на кшталт: “Photo of Fat Red Cat in forest, art by Anders Zorn and John William Waterhouse, професійний painting, beautiful, aesthetic, elegant, highly detailed, digital painting, artstation, concept art, smooth , sharp focus, illustration, soft color, 3d, unreal” (я мовчу про всі можливі параметри)

І отримати вже щось таке:

Згенеровано для цієї статті за допомогою Stable Diffusion

І ось цей пошук відповідності своїх очікувань із можливостями інструменту нічим іншим як творчістю не назвеш. І перебір "промптів", це найпростіше, що можна зробити. Можна навчити на різних стилях, генерувати в одному, потім використовувати як маску і перегенерувати в іншому, експериментувати з форматом, щось замазувати або обрізати в редакторі, склеювати результати. Навичок треба мінімум, кожен може розпочати. Але щоб отримати результат, що задовольняє (насамперед вас), доведеться провести цілком собі осмислений і творчий пошук, який може легко затягнутися на годинник.

Нейросети знецінюють працю художників, які витратили роки на навчання

Питання етики завжди найскладніші. Але подумайте ось над чим: чи фотографія знецінює портретний живопис, а малюнки у фотошопі масляний?

Ви скажете: "нейронки тренуються на роботах авторів". Але що роблять автори? Вони, як і нейронна мережа, поглинають інформацію про навколишній світ, про улюблених художників, обробляють ці дані нейромережею свого мозку і через руку видають на папері похідне зображення. Ви скажете: "стривай, це інше, це ж людина робить". А я скажу – фізик теж може проводити розрахунки в голові, але давно довіряє це машині, бо деякі розрахунки людському мозку просто не підвладні через час. Також і нейронна мережа – ще один інструмент, якому художник делегує частину свого навчання. Завдяки чому обов'язково видасть такі візуальні рішення, які йому були б недоступні за традиційної форми навчання, просто через час. Тому ні про яке знецінення не йдеться, весь художній досвід людства зараз збирається, щоб калькулювати в майбутньому такі твори, які сьогодні людині недоступні. Це ода праці художників минулого та сьогодення.

Нейросети - це іграшка, яка не застосовується на практиці

Ну поки що так, але це знову ж таки питання часу. 17 листопада вийшов проект, над яким я працював останні 2 роки, і там, крім іншого, використовувалися зображення, створені нейромережами. Зайдіть на артстейшн, і побачите як люди поки несміливо, але вже пробують нейромережі в роботі.

Вже сьогодні практично та зручно генерувати обличчя персонажів для концепту арту та ілюстрацій, шукати композиції, накидати скетчі дизайнів, додавати деталізації своїм скетчам тощо.Це цілком собі реальні завдання, що закриваються нейромережами прямо зараз. Ось наприклад, Xander Smith ще 2 роки тому використовував нейронну мережу, щоб підібрати варіанти обличчя для концепту:

Xander Smith, Artbreeder

Нейросети заберуть роботу у художників

І це єдине вірне твердження із усіх озвучених. Вони й справді "віднімуть" роботу у художників, але це станеться не так, як уявляють багато хто, чуючи цю фразу. Це не буде буквальним заміщенням, масовими звільненнями чи несподіваною зміною всіх існуючих підходів. Просто поступово, непомітно, митці самі, зі своєї волі, перейдуть від стандартних інструментів до нейромережевих. Ті, хто не захочуть або не зможуть, органічно або змінять рід діяльності, змістяться на ролі технічних фахівців або керівників або взагалі перемістяться в іншу галузь. А для когось нічого не зміниться і через 10 років буде ніша, де через якісь причини чи обставини будуть затребувані традиційні методи та підходи, але з кожним роком таких місць і потреба в таких ролях буде все менше і менше, але на століття сучасних консерваторів від світу творчості вистачить.

Потрібно користуватися

Підбиваючи підсумки – вивчайте нейромережі. Свого часу велике традиційне мистецтво поступилося місцем цифровому, завдяки чому було здійснено безліч відкриттів, були створені цілі галузі та професії. Епоха нейромереж ще тільки в зародковому стані.

Варто згадати перші тривимірні ігри:

Waze Mare, 1973 рік

і подивитися до чого вони прийшли сьогодні:

God of War: Ragnarök, 2022 рік

Це просто запаморочливий стрибок.Незважаючи на те, що математика, що лежить в основі нейромереж ще в 40-ті роки минулого століття, з'явилася, а концепцію ще Лем пропонував у 60-ті, сьогодні нейромережі знаходяться на самому старті, і ми ще здивуємося, наскільки далеко зможемо стрибнути.

Що може і чого не може нейромережі: п'ятихвилинний гід для новачків

З моменту опису першого штучного нейрона Уорреном Мак-Каллоком та Уолтером Піттсом минуло понад п'ятдесят років. З того часу багато що змінилося, і сьогодні нейромережні алгоритми застосовуються повсюдно. І хоча нейронні мережі здатні на багато, дослідники при роботі з ними стикаються з низкою труднощів: від перенавчання до проблеми «чорної скриньки».

Якщо терміни «катастрофічна забудькуватість» і «регуляризація ваг» вам поки що ні про що не говорять, читайте далі: спробуємо розібратися в усьому порядку.

/ Фотографія Jun / CC-SA

За що ми любимо нейромережі

Основна перевага нейронних мереж над іншими методами машинного навчання полягає в тому, що вони можуть розпізнавати глибші, іноді несподівані закономірності даних. У процесі навчання нейрони здатні реагувати на отриману інформацію відповідно до принципів генералізації, тим самим вирішуючи поставлене перед ними завдання.

До областей, де мережі знаходять практичне застосування вже зараз, можна віднести медицину (наприклад, очищення показань приладів від шумів, аналіз ефективності проведеного лікування), інтернет (асоціативний пошук інформації), економіку (прогнозування курсів валют, автоматичний трейдинг), ігри (наприклад, го) та інші. Нейросети можуть використовуватися практично навіщо в силу своєї універсальності.Однак чарівною пігулкою вони не є, і щоб вони почали функціонувати належним чином, потрібно зробити багато попередньої роботи.

Навчання нейромереж 101

Одним із ключових елементів нейронної мережі є здатність навчатися. Нейронна мережа - це адаптивна система, яка вміє змінювати свою внутрішню структуру на основі інформації, що надходить. Зазвичай такий ефект досягається за допомогою коригування значень ваг.

Зв'язки між нейронами на сусідніх шарах нейромережі - це числа, що описують значущість сигналу між двома нейронами. Якщо навчена нейронна мережа правильно реагує на вхідну інформацію, то налаштовувати ваги немає необхідності, а інакше за допомогою будь-якого алгоритму навчання потрібно змінити ваги, покращивши результат.

Як правило, це роблять за допомогою методу зворотного розповсюдження помилки: для кожного з навчальних прикладів ваги коригуються так, щоб зменшити помилку. Вважається, що при правильно підібраній архітектурі та достатньому наборі навчальних даних мережа рано чи пізно навчиться.

Існує кілька принципово відмінних підходів до навчання, у прив'язці до поставленої задачі. Перший - навчання з учителем. І тут вхідні дані є пари: об'єкт та її характеристику. Такий підхід застосовується, наприклад, у розпізнаванні зображень: навчання проводиться за розміченою базою з картинок та розставлених вручну тегів того, що на них намальовано.

Найвідомішою з таких баз є ImageNet. При такій постановці завдання навчання мало чим відрізняється від, наприклад, розпізнавання емоцій, яким займається Neurodata Lab.Мережі демонструються приклади, вона робить припущення, і, залежно від правильності, коригуються ваги. Процес повторюється до того часу, поки точність не збільшується до шуканих величин.

Другий варіант - навчання без вчителя. Типовими завданнями йому вважаються кластеризація і деякі постановки завдання пошуку аномалій. При такому розкладі справжні мітки навчальних даних нам недоступні, але є необхідність пошуку закономірностей. Іноді подібний підхід застосовують для навчання мережі завдання навчання з учителем. Ідея полягає в тому, щоб початковим наближенням для ваг було не випадкове рішення, а те, що вже вміє знаходити закономірності в даних.

Ну і третій варіант навчання з підкріпленням - Стратегія, побудована на спостереженнях. Уявіть собі мишу, що біжить лабіринтом. Якщо вона поверне ліворуч, то отримає шматочок сиру, а якщо праворуч - удар струмом. Згодом миша вчиться повертати лише ліворуч. Нейронна мережа діє так само, підлаштовуючи ваги, якщо підсумковий результат - "болісний". Навчання з підкріпленням активно застосовується в робототехніці: «Чи ударився робот у стіну або залишився неушкодженим?». Усі завдання, які стосуються ігор, у тому числі найвідоміша з них — AlphaGo, засновані саме на навчанні з підкріпленням.

Перенавчання: у чому проблема та як її вирішити

Головна проблема нейромереж — перенавчання. Воно полягає в тому, що мережа «запам'ятовує» відповіді замість того, щоб уловлювати закономірності даних. Наука сприяла появі світ декількох методів боротьби з перенавчанням: сюди відносяться, наприклад, регуляризація, нормалізація батчів, нарощування даних та інші.Іноді перенавчена модель характеризується великими абсолютними значеннями ваги.

Механізм цього явища приблизно такий: вихідні дані нерідко дуже багатовимірні (одна точка з навчальної вибірки зображується великим набором чисел), і ймовірність того, що навмання взята точка виявиться невідмінною від викиду, буде тим більше, чим більша розмірність. Замість того, щоб «вписувати» нову точку в існуючу модель, коригуючи ваги, нейромережа начебто вигадує сама собі виняток: цю точку ми класифікуємо за одними правилами, інші — за іншими. І таких точок зазвичай багато.

Очевидний спосіб боротьби з такого роду перенавчанням – регуляризація ваг. Вона полягає або у штучному обмеженні на значення ваг, або додаванні штрафу в міру помилки на етапі навчання. Такий підхід не вирішує проблему повністю, але найчастіше покращує результат.

Другий спосіб заснований на обмеженні вихідного сигналу, а не значень ваг, - мова про нормалізації батчів. На етапі навчання дані подаються нейромережі пачками – батчами. Вихідні значення для них можуть бути якими завгодно, і тим їх абсолютні значення більші, ніж вище значення ваги. Якщо з кожного ми віднімемо якесь одне значення і поділимо результат на інше, однаково для всього батча, то ми збережемо якісні співвідношення (максимальне, наприклад, все одно залишиться максимальним), але вихід буде більш зручним для обробки його наступним шаром.

Третій підхід працює не завжди. Як уже говорилося, перенавчена нейромережа сприймає багато точок як аномальні, які хочеться обробляти окремо. Ідея полягає в нарощуванні навчальної вибірки, Щоб точки були нібито тієї ж природи, як і вихідна вибірка, але згенеровані штучно. Однак тут одразу народжується велика кількість супутніх проблем: добір параметрів для нарощування вибірки, критичне збільшення часу навчання та інші.

Ефект від видалення аномального значення з тренувального зведення даних (джерело)

В окрему проблему виділяється пошук реальних аномалій в навчальній вибірці. Іноді це навіть розглядають як окреме завдання. Зображення вище демонструє ефект виключення аномального значення набору. У разі нейронних мереж ситуація буде аналогічною. Щоправда, пошук та виключення таких значень — нетривіальне завдання. Для цього застосовуються спеціальні техніки – докладніше про них ви можете прочитати за посиланнями (тут і тут).

Одна мережа – одне завдання чи «проблема катастрофічної забудькуватості»

Робота в середовищах, що динамічно змінюються (наприклад, у фінансових), складна для нейронних мереж. Навіть якщо вам вдалося успішно натренувати мережу, немає гарантій, що вона не перестане працювати у майбутньому. Фінансові ринки постійно трансформуються, тому те, що працювало вчора, може з тим самим успіхом «зламатися» сьогодні.

Тут дослідникам або доводиться тестувати різноманітні архітектури мереж та вибирати з них найкращу, або використовувати динамічні нейронні мережі. Останні «стежать» за змінами середовища та підлаштовують свою архітектуру відповідно до них. Одним із алгоритмів, що використовуються в цьому випадку, є метод MSO (multi-swarm optimization).

Більше того, нейромережі мають певну особливість, яку називають катастрофічною забудькуватістю (catastrophic forgetting).Вона зводиться до того, що нейромережа не можна послідовно навчити кільком завданням — на кожній новій навчальній вибірці всі ваги нейронів будуть переписані, і минулий досвід буде забутий.

Безумовно, вчені працюють над вирішенням цієї проблеми. Розробники з DeepMind нещодавно запропонували спосіб боротьби з катастрофічною забудькуватістю, який полягає в тому, що найважливіші ваги в нейронній мережі при виконанні якогось завдання А штучно стають більш стійкими до зміни в процесі навчання на завданні Б.

Новий підхід отримав назву Elastic Weight Consolidation (пружне закріплення ваг) через аналогію з пружною пружинкою. Технічно він реалізується наступним чином: кожній вазі в нейронній мережі надається параметр F, який визначає його значущість тільки в рамках певного завдання. Чим більше F для конкретного нейрона, тим складніше буде змінити його вагу під час навчання новому завданню. Це дозволяє мережі запам'ятовувати ключові навички. Технологія поступилася "вузькоспеціалізованим" мережам в окремих завданнях, але показала себе з кращого боку за сумою всіх етапів.

Армована чорна скринька

Ще одна складність роботи з нейронними мережами полягає в тому, що ІНС фактично є чорними ящиками. Строго кажучи, крім результату, з нейромережі не витягнеш нічого, навіть статистичні дані. При цьому важко зрозуміти, як мережа ухвалює рішення. Єдиний приклад, де це не так - згорткові нейронні мережі в задачах розпізнавання. У цьому випадку деякі проміжні шари мають сенс карт ознак (одна зв'язок показує, чи зустрівся якийсь простий шаблон у вихідній картинці), тому збудження різних нейронів можна відстежити.

Зрозуміло, що зазначений нюанс робить досить складним використання нейронних мереж у додатках, коли помилки критичні. Наприклад, менеджери фондів не можуть зрозуміти, як нейронна мережа приймає рішення. Це призводить до того, що неможливо коректно оцінити ризики торгових стратегій. Аналогічно банки, які вдаються до нейронних мереж для моделювання кредитних ризиків, не зможуть сказати, чому цей клієнт має зараз саме такий кредитний рейтинг.

Тому розробники нейромереж шукають способи обійти це обмеження. Наприклад, робота ведеться над так званими алгоритмами вилучення правил (rule-extraction algorithms), щоб підвищити прозорість архітектур. Ці алгоритми отримують інформацію з нейромереж або у вигляді математичних виразів та символьної логіки, або у вигляді дерев рішень.

Нейронні мережі – це лише інструмент

Само собою, штучні нейронні мережі активно допомагають освоювати нові технології та розвивати існуючі. Сьогодні на піку популярності знаходиться програмування безпілотних автомобілів, в яких нейромережі в режимі реального часу аналізують довкілля. IBM Watson з року в рік відкриває для себе нові прикладні області, включаючи медицину. У Google існує цілий підрозділ, який безпосередньо займається штучним інтелектом.

Водночас іноді нейронна є — не найкращий спосіб вирішити завдання. Наприклад, мережі «відстають» за такими напрямами, як створення зображень високої роздільної здатності, генерація людської мови та глибокий аналіз відеопотоків. Робота із символами та рекурсивними структурами також дається нейросистемам нелегко. Правильно це і для запитально-відповідних систем.

Спочатку ідея нейронних мереж полягала у копіюванні та навіть відтворенні механізмів функціонування мозку. Однак людству, як і раніше, потрібно вирішити проблему швидкості роботи нейронних мереж, розробити нові алгоритми логічного висновку. Існуючі алгоритми щонайменше в 10 разів поступаються можливостям мозку, що незадовільно у багатьох ситуаціях.

При цьому вчені досі не до кінця визначилися, в якому напрямку слід розвивати нейромережі. Індустрія намагається як максимально наблизити нейромережі до моделі людського мозку, так і генерувати технології та концептуальні схеми, абстрагуючись від усіх «аспектів людської природи». На сьогоднішній день це щось на зразок «відкритого твору» (якщо скористатися терміном Умберто Еко), де практично будь-які досліди допустимі, а фантазії – прийнятні.

Діяльність вчених і розробників, які займаються нейромережами, потребує глибокої підготовки, великих знань, використання нестандартних методик, оскільки нейромережа сама по собі — це не срібна куля, здатна вирішити будь-які проблеми та завдання без участі людини. Це комплексний інструмент, який в умілих руках може робити дивовижні речі. І в нього ще попереду.

Права користувача нейромережі: чому я вважаю, що використовувати нейромережі для бізнесу небезпечно

З нейромережами правила безпеки ті самі, що й у інтернеті загалом. Потрібно усвідомлювати, що саме ви їм збираєтеся надіслати, рекомендує експерт «СерчІнформ». Достеменно невідомо, чи зберігають вони архіви запитів користувача, чи знеособлюють їх і яка ймовірність, що дані одного користувача потраплять у видачу для іншого.Потенційно це можливо, оскільки запити можуть використовуватися для доповнення навчального корпусу нейромережі.

Що написано в користувацьких угодах найпопулярніших майданчиків? Аналіз користувацьких угод на даний момент може бути ключем до розуміння правових аспектів використання нейромереж, поки немає затвердженої законодавчої бази, тому пропоную вивчити основні положення. Інформація є актуальною на березень 2024 року. Угоди користувача можуть змінюватися, тому потрібно періодично переглядати документи.

Тому, перш ніж надсилати в чат-бот свої особисті дані (або будь-яку іншу конфіденційну інформацію), дайте відповідь собі на два запитання: що буде, якщо я втрачу ці дані назавжди? Що буде, якщо ці дані стануть відомими стороннім? Інша складність у тому, що у Росії більшість чат-ботів недоступні безпосередньо — лише через VPN, проксі чи адаптовані Telegram-чати, нагадує Олексій Дрозд. Потрібно розуміти, що за такої моделі доступу до нейромережі ваші дані вирушають у неї не безпосередньо, а через «посередника». Відповідно, цей «посередник» може їх отримати. Цей ризик також варто враховувати. Доцент кафедри інформаційних технологій та автоматизованих систем ПНДПУ Данило Курушин зазначає, що проблема ще й у тому, що можна написати текст від чужого імені, роблячи його максимально схожим на те, що писала б (або говорила) сама людина. Хоч нейромережа і «не розуміє» сказаного, але вона добре наслідує інші тексти. Це і може ввести в оману. Аналогічно можна сформувати зображення, схоже на реальне, але вигадане.

Розвиток нейромереж активує інтерес до правових питань щодо об'єктів, створених із застосуванням штучного інтелекту.Поступово бізнес намагається перекласти частину завдань на нейромережі, щоб заощадити ресурси. І це поки що не зовсім безпечно.

Доцент кафедри автоматики та телемеханіки ПНДПУ Антон Каменських зауважує, що є кілька спільних ризиків для будь-якої системи з машинним навчанням. — Це дискримінація на основі «чорної скриньки»: ми точно не знаємо, які параметри закладені в нейромережу під час навчання, в результаті, якщо використовувати відповіді чат-бота для оцінки чогось, тобто дуже великий ризик прихованих маніпуляцій, тож довіряти оцінку нейромережі точно не варто. Другий момент, який пов'язаний із тією самою проблемою, — це приписування нейромережі властивостей об'єктивності. Впевненість у тому, що нейромережа завжди має рацію, дуже легко можна використовувати для проведення кібератак.

Якщо розробники заборонили комерційне використання, встановили обмеження або правила для активації цієї можливості, у разі порушення вони можуть подати позов. Доказом їхньої правоти стане користувальницька угода, в якій прописані правила. У цьому випадку у користувача-порушника мало шансів виграти суперечку.

Якщо об'єкт, що згенерував, містить частини інших творів, їх автори можуть пред'явити позов. Довести свою позицію їм допоможуть чернетки, вихідні матеріали та інші матеріали, що підтверджують авторство. Якщо вони в них є, то можливі негативні наслідки для особи, яка використовує об'єкт, що згенерував. Особливо якщо в угоді користувача розробник зняв з себе відповідальність за подібні ситуації. Це стосується як об'єктів авторського права, а й товарних знаків, відомих персонажів, які належать іншим особам. — Нейросеть дала однаковий результат двом користувачам, обидва використовують об'єкт у комерційній діяльності.

— Буквально недавно експерти в галузі ІІ та ІБ виявили новий тип загрози, пов'язаний із розвитком ChatGPT як продукту — плагіни, - Розповідає Раміль Кулеєв. - Через них люди вбудовують функціонал чат-бота у свої особисті облікові записи в різних сервісах. Небезпека використання плагінів з погляду кібербезпеки називається prompt injection. Суть її в тому, що деякі запити до нейромережі, підключеної до якогось сервісу, сформульовані певним чином, створюють критичні вразливості в контурі безпеки. Начальник відділу інформаційної безпеки «СерчІнформ» Олексій Дрозд звертає увагу, що нові ризики можуть бути закладені у алгоритмі роботи нейромереж. Випадок з prompt injection, коли користувачі оминають обмеження, закладені творцями ІІ, повчальний. У лютому, тільки-но Microsoft представив свій чат-бот Bing, звичайний студент зламав його, просто ввівши команду «ігнорувати попередні інструкції». У результаті чат-бот видав логіку своєї роботи, кодове ім'я, внутрішні регламенти та іншу конфіденційну інформацію.

YandexGPT

З цього випливає, що некомерційне використання дозволене, а комерційне може бути обмежене. Додатково зазначу, що в угоді зазначено, що згенерований контент може бути неунікальним, збігатися з результатами видачі в інших користувачів. У зв'язку з цим користувач приймає всі ризики він, використовуючи згенеровані об'єкти.

Сьогодні потрібно бути обережними, не довіряти нейромережам на 100% і перевіряти ще раз будь-яку інформацію від них, підкреслює фахівець групи дослідження безпеки банківських систем, Positive Technologies Юрій Рядніна.А все тому, що арт-нейросети вже дозволяють генерувати фейки, що майже не відрізняються від реальності (Midjourney), а ChatGPT, наприклад, має схильність до «галюцинацій» — коли модель не знає що відповісти і змушена брехати.

Слід бути обережними, не покладатися на штучний інтелект, намагаючись заощадити. Проблеми можуть виникнути не відразу, а згодом. До того ж деякі нейромережі прямо заявляють у своїх користувацьких угодах про обмеження комерційного використання.

Сенатор Артем Шейкін нагадує, що у низці країн вже існують закони, які зобов'язують компанії, що створюють нейромережі та чат-боти, повідомляти користувачів про те, як вони використовують їх дані, а також давати людям можливість видаляти свої дані із системи. На думку заступника голови Ради з розвитку цифрової економіки при Раді Федерації, щоб приймати закони щодо обмежень, потрібно встановити шлях створення цифрового кодексу, зафіксувати термінологію в цифровому праві, також необхідно категоризувати види ІІ щодо ризиків для безпеки, які вони можуть нести. Наприклад, виділити системи, які мають високий, середній чи мінімальний ризик. Також потрібні єдині види тестування на безпеку, які мають проводити компанії-розробники ІІ та визначення видів доступу до даних для проведення аудитів та оцінок.

OpenAI – компанія-розробник ChatGPT. На її сайті розміщено угоду користувача, в якій сказано, що користувач є власником вихідних даних — згенерованого контенту. Компанія повністю передає свої права власності на об'єкти, створені нейромережами.

Замовник думає, що ви створили зображення своєю творчою працею, вільно розміщує роботи на сайті. Через війну може виникнути суперечка. Багато дизайнерів, копірайтерів та інших фахівців намагаються зменшити свої трудовитрати за рахунок використання нейромереж, але наскільки це чесно?