Всеукраїнський загальнополітичний освітянський тижневик
Персонал Плюс - всеукраїнський тижневик

У Google придумали нову технологію прискореного навчання штучного інтелекту

Процесори на кшталт Google Tensor або Intel Nervana прискорюють навчання моделей ШІ, але через свою архітектуру на ранніх стадіях значущої надбавки в швидкості не дають.

Розробники з Google Brain запропонували прискорити навчання штучного інтелекту технологією еховідображення даних — - вона скорочує час навчання і істотно зменшує необхідне для навчання число прикладів.

У ході звичайного процесу навчання ІІ спочатку читає і розшифровує вхідні дані, а потім перемішує їх, застосовуючи перетворення, групує приклади по категоріях і багаторазово оновлює параметри, щоб знизити кількість помилок, повідомляє Хайтек+.

Метод еховідображення додає в процес нову фазу повторення вихідних даних з попередньої фази до оновлення параметрів. При цьому теоретично витрачаються простоюють обчислювальні потужності, пише VentureBeat.

 

Під час випробувань підходу фахівці Google Brain оцінили його на прикладі двох задач моделювання мови, двох задачах класифікації зображень і однієї задачі виявлення об'єкта.

Вони виміряли час навчання за кількістю «свіжих» прикладів, необхідних для досягнення потрібних показників.

Результати показали, що у всіх випадках, крім одного, метод еховідображення даних вимагає меншого числа свіжих прикладів, ніж зазвичай, і скорочує час навчання.

Більш того, було відзначено, що чим раніше еховідображення буде введено в процес, тим менше прикладів знадобиться.

«Еховідображення даних — ефективна альтернатива оптимізації процесу навчання або додавання додаткових виконавців для обробки висхідних даних, що не завжди буває можливо або бажано», — пишуть автори статті, опублікованої на Arxiv.org.

вгору

© «ПЕРСОНАЛ ПЛЮС». Усі права застережено.

Передрук матеріалів тільки за згодою редакції.
При розміщенні матеріалів в Інтернет обов’язкове посилання на сайт видання. Погляди авторів можуть незбігатися з позицією редакції

З усіх питань звертайтеся, будь ласка, gazetapplus@gmail.com