На руски - невроморфен суперкомпютър от 1 млн ядра...

[ramus]

Нейроморфный суперкомпьютер с 1 миллионом ядер имитирует человеческий мозг -  Overclockers.ru

 

Как сообщают в Манчестерском университете - 2 ноября, по просьбе Манчестерского университета, появился европейский невроморфический суперкомпьютерный проект, целью которого является имитация искусственного мозга с использованием так называемой Spiring Neural Network Architecture (SpiNNaker). 

Машина SpiNNaker имеет 1 000 000 нейроморфных процессоров, которые подобны человеческими мозговыми нейронами.  Для моделирования мозгового моделирования в реальном времени потребовалось 1 000 000  ядер. Каждый из этих процессоров способен выполнять более 200 000 000 действий в секунду и имеет 100 000 000 транзисторов.

Предполагается, что нейроморфный суперкомпьютер будет моделировать биологический мозг больше, чем любой другой компьютер на планете. Согласно данным анонса, биологический нейрон является основной клеткой мозга, которая общается посредством излучения «пиков» чистой электрохимической энергии. Нейроморфный компьютер использует крупномасштабные системы, содержащие электронные схемы, имитирующие эти же всплески в машине.

В отличие от обычного компьютера, который посылает огромное количество информации через стандартную сеть, SpiNNaker имитирует параллельную архитектуру мозга и отправляет миллиарды небольших объемов информации одновременно тысячам разных пунктов назначения.

SpiNNaker имеет 1 000 000 ядер, однако это намного меньше, чем требуется для правильной имитации всего человеческого мозга. Для сравнения, мозг мыши имеет 100 000 000 нейронов, а человеческий мозг имеет 100 000 000 000 нейронов. Поэтому суперкомпьютеру может понадобиться в 100 000 раз больше ядер, чем в настоящее время, для достижения паритета с биологическим человеческим мозгом. Однако, возможно, нам не нужен паритет 1:1 с мозгом человека, чтобы имитировать его точно, или что мы могли бы использовать меньше физических ядер с более «виртуальными ядрами» (или потоками), которые могут действовать как нейроны.

Несмотря на то, что у них гораздо меньше ядер по сравнению с нейронами мышей, ученые по-прежнему считают, что суперкомпьютер на 1 000 000 ядер может оказаться полезным для моделирования определенных частей мозга в режиме реального времени, а также для других задач.

Проект SpiNNaker был задуман 20 лет назад, а строительство началось 12 лет назад в Школе компьютерных наук Университета Манчестера. 

=============

https://overclockers.ru/blog/ddr77/show/21874/nejromorfnyj-superkompjuter-s-1-millionom-jader-imitiruet-chelovecheskij-mozg

[Du6ko]

Нещо свързано с компютрите ни и интернета ) Кой какви социални мрежи предпочита . 

 

[Du6ko]

Кой какви домени използва ?

[ramus]

Преди 9 минути, Du6ko said:

Нещо свързано с компютрите ни и интернета

Извинете, но вие спамите толкова безразборно из целия форум, че дори нямате идея в кои теми какво точно слагате. Не зная причината - от късния час или пък недовиждане... А може би за вас всичко е една обща боза - некви си там компютри, мрежи... Само да се докарат руски линкове, картинки, мнения. А като гледам картинките - мислите ли че това е сериозно или въобще не ги погледнахте преди да ги слагате тук?

Погледнахте ли въобще заглавието и раздела където стои тази тема? Всъщност отговора вече сте го "изписали", но става ясно накъде води всяко безконтролно поведение.

 

Редактирано Ноември 7, 2018 от ramus

[Б. Киров]

On 7.11.2018 г. at 22:20, ramus said:

Проект SpiNNaker был задуман 20 лет назад, а строительство началось 12 лет назад в Школе компьютерных наук Университета Манчестера. 

Невроморфни компютърни системи в HBP

В HBP невроморфния компютърен Subproject осъществява две основни дейности: Изграждане на две големи уникални невроморфни машини и прототипиране на следващите поколения невроморфни чипове.

Мащабните невроморфни машини се основават на два допълващи се принципа. Многоядрената машина SpiNnaker, намираща се в Манчестър (Великобритания), свързва 500 000 /сега 1 000 000/ ARM процесора с пакетна мрежа, оптимизирана за обмен на потенциали за невронно действие (spikes). Машината за физически модел BrainScaleS, разположена в Хайделберг (Германия), реализира аналогични електронни модели от 4 милиона неврони и 1 милиард синапса на 20 силиконови плаки. Двете машини са интегрирани в HBP за съвместната работа и предлагат пълна софтуерна поддръжка за тяхната конфигурация, работа и анализ на данните.

Най-важната характеристика на невроморфните машини е тяхната скорост на изпълнение. Системата SpiNnaker работи в реално време, BrainScaleS се изпълнява като ускорена система и работи 10 000 пъти по-бързо от реално време. Симулациите при конвенционалните суперкомпютри са са 1000 по-бавни от биологичния процес и не могат да получат достъп до изключително различни времеви рамки, свързани с ученето и развитието, вариращи от милисекунди до години.

Неотдавнашните изследвания в областта на невронните мрежи и изчислителните процеси показват, че ученето и развитието са ключов аспект на невронните мпежи и приложенията на когнитивния computing в реалния свят. HBP е единственият световен проект, който изследва този аспект със специални хардуерни архитектури.

Налични системи

Системата BrainScaleS се основава на физически (аналогови или смесени сигнали) емулации на модели на неврон, синапс и пластични модели с цифрова свързаност, достигащи до десет хиляди пъти по-бързо от тези в реално време.Системата BrainScaleS (NM-PM-1) съдържа 20 8-инчови силициеви плаки в 180 nm процесорна технология. Всяка плака включва 50 х 106 пластични синапса и 200 000 биологично реалистични неврони. Системата не изпълнява предварително програмиран код, но се развива в зависимост от физическите свойства на електронните устройства, които работят до 10 хиляди пъти по-бързо от реалното време.

Системата SpiNnaker се основава на множество модели, които се изпълняват в реално време на персонализирани цифрови многоядрени чипове, използващи ARM архитектурата. Системата SpiNNaker (NM-MC-1) осигурява почти 30 000 персонализирани цифрови чипа, всеки от които с осемнадесет ядра и споделена локална RAM от 128 Mbyte, което дава общо над 500 000 ядра /1 000000 в новия вариант/. Един чип може да симулира 16 000 неврони с осем милиона пластични синапса, работещи в реално време с енергиен бюджет от 1 W.

Реформираната машина "Spiking Neural Network Architecture" или "SpiNnaker" с милион процесори може да извърши повече от 200 милиона действия на секунда, като всеки от чиповете си има 100 милиона транзистора.

Биологичните неврони са основни мозъчни клетки в нервната система, които комуникират предимно чрез излъчване на ‘spikes’от чиста електрохимическа енергия. Невроморфните изчисления използват широкомащабни компютърни системи, съдържащи електронни схеми, които имитират тези ‘spikes’ в машината.

SpiNNaker е уникален, защото за разлика от традиционните компютри, той не комуникира, като изпраща голяма част от информацията от точка А до точка Б по стандартна мрежа. Вместо това той имитира масивно паралелната комуникационна архитектура на мозъка, изпращайки милиарди малки количества информация едновременно на хиляди различни дестинации.

Създателите на компютъра в крайна сметка се стремят да моделират до 1 милиард биологични неврони в реално време и вече са на крачка по-близо. За да даде представа за мащаба, мозъкът на мишката се състои от около 100 милиона неврони, а човешкият мозък е 1000 пъти по-голям от този.

Един милиард неврони е 1% от мащаба на човешкия мозък, който се състои от малко над 100 милиарда мозъчни клетки или неврони, които са силно взаимосвързани чрез приблизително 1 квадрилион (това е 1 с 15 нули) синапси.

И така, какво представлява 1 милион процесорно-ядрен компютър, който имитира начина, по който работи мозъка? Едно от фундаменталните му приложения е да помогне на учените по-добре да разберат как функционира нашия собствен мозък. Това се прави, като се използват изключително силни симулации в реално време, които просто не са възможни на други машини.

Например, SpiNNaker е използван за симулиране на обработка в реално време на високо ниво в редица изолирани мозъчни мрежи. Това включва 80 000 невронен модел на сегмент от кората, външния слой на мозъка, който получава и обработва информация от сетивата.

Той също така е симулирал регион на мозъка, наречен Basal Ganglia - зона, засегната от болестта на Паркинсон, което означава, че има огромен потенциал за неврологични пробиви в науката, като фармацевтичните тестове.

Той работи и като невроннен симулатор в реално време, които позволяват на учените завимаващи се роботика да проектират мащабни невронни мрежи в мобилни роботи, за да могат да ходят, да говорят и да се движат с гъвкавост и нисък разход на енергия.

Предизвикателството обаче е сложно, тъй като човешкият мозък съдържа 86 милиарда мозъчни клетки (известни като неврони), всеки със средно 7000 връзки с други неврони (известни като синапси). Сегашната мощност на компютрите е недостатъчна, за да моделира целия човешки мозък на това ниво на взаимосвързаност.

Ето защо беше възприет по-опростен подход за постигане на резултати, които все повече се приближават до експерименталните данни. Симулацията се осъществява на няколко отделни организационни нива в мозъка, вариращи от молекулярното, междуклетъчно до клетъчно и целия орган. Нивото на детайлност намалява, когато нивото се вдига към целия орган.

На микроскопично ниво и по-надолу фокусът на внимание е сигналът между невроните. Невроните са електрически възбудими клетки, които предават съобщения един към друг през синапсите. Тези съобщения са от решаващо значение за нормалното функциониране на централната нервна система.

Макроскопичното ниво изучава групирането на невроните и тяхната роля в мозъка.

Освен Brain Simulation Platform, HBP също така се занимава с модели на ниво цял мозък. При тези модели най-малката единица не е неврон, а популация от неврони, която съответства на разделителната способност на мозъчното изображение. Тези цели мозъчни модели се правят както за мишки, така и за човешки мозък, и те могат да се използват за прогнозиране и изследване на патологии, като епилепсия или инсулт.

Към следващото поколение машини HBP

Докато базовите чипове, които сега работят в двете големи мащабни машини, са разработени в различни национални и европейски проекти през последното десетилетие, сегашните чипове от ново поколение се разработват в HBP. Чиповете от следващо поколение ще бъдат в основата на следващото поколение мащабни машини, които ще работят към края на текущото планиране на проекта до 2023 г. В първата фаза първите прототипи за двата допълващи се подхода, SpiNnaker и BrainScaleS, са проектирани и произведени. И двата чип-прототипа използват огромния технологичен прогрес в хардуеър технологията и са резултат от тясното сътрудничество с невро-учените в HBP. Специално внимание се отделя на значително подобрените възможности за ефективно прилагане на обучението и развитието.

HBP връзката с SC17 # HPCConnects

Разбирането на действията на човешкия мозък изисква подкрепата на огромна компютърна мощ. Високоефективна аналитична и изчислителна платформа осигурява инфраструктурата на суперкомпютри както вътре, така и извън HBP. Има мрежа от суперкомпютри с центрове в Германия, Италия, Испания и Швейцария.

Това са едни от най-мощните компютри в света, способни да изпълняват квадрилиони операции в секунда и имат капацитет на паметта, измерен в квадрилиони байтове.HBP учените събират много данни, след това развиват мозъчни модели въз основа на тези данни и накрая симулират тези модели.

Човешкият мозък е толкова сложен, че нормалният компютър не е достатъчен да симулира дори част от човешкия мозък. Един от суперкомпютрите е толкова мощен, колкото 350 000 стандартни компютри.Human Brain Project не само прави този хардуер достъпен за учените, но също така разработва софтуер, който подкрепя учените в тяхната работа, напр. да управляват огромните им набори от данни, да симулират най-ефективно моделите на суперкомпютрите (да получат по-добри резултати колкото е възможно по-бързо) или създават "визуализации" на наборите от данни. Визуализацията превръща колоните от цифри, създадени от симулацията, в графично изображение или дори 3D обекти.

Платформата за висококачествени анализи и изчисления (HPAC) разработва и предоставя операции със суперкомпютри, съхранение, визуализация и симулативна технология, които могат се осъществяват на суперкомпютри. С тази инфраструктура учените могат:

- Да стартират мащабни, интензивни като данни, интерактивни мулти-модални симулации на мозъка до размера на пълния човешки мозък.

- Да управляват огромните количества данни, използвани и добити чрез симулации и експерименти

- Да управляват сложни работни потоци, включващи успоредни симулации, анализ на данни и визуализация.

Компютърната база са суперкомпютри, разположени в четири големи европейски центрове за High Performance Computing (HPC):

Пилотните системи JULIA и JURON са проектирани въз основа на изискванията на невронните изследвания. Те са налични от есента на 2016.

JUWELS се намира в Jülich Supercomputing Centre (JSC), Forschungszentrum Jülich, Германия.

JUWELS е  система наследник на JUQUEEN.

JUWELS ще бъде модулен суперкомпютър, подобен на JURECA. Клъстерният модул функционира от средата на юли 2018 г. и ще бъде допълнен от booster module.

На същите места се изгражда инфраструктура за данни, която позволява на учените да съхраняват, обработват и споделят своите големи масиви от данни с други хора.

Платформата HPAC също така предлага софтуер и инструменти, например:

Симулационна технология, която ще бъде оптимизирана за бъдещи HPC архитектури ("Exascal supercomputers")

Методи за визуализация и инструменти, специализирани за големи набори от данни и симулационни данни

Инструментите за визуализация могат да се използват локално или чрез системите с висока надеждност в Аахен, Германия и Женева, Швейцария.

https://www.manchester.ac.uk/discover/news/human-brain-supercomputer-with-1million-processors-switched-on-for-first-time/

На линка долу има по-детайлно описание на платформата "SpiNnaker"

http://apt.cs.manchester.ac.uk/people/cpatterson/spinnaker_chip.pdf

[ramus]

Много благодаря - за усилието, за времето, за превода... !

Редактирано Ноември 9, 2018 от ramus

[Б. Киров]

И аз благодаря за интересната тема, някъде във форума бяхме писали за този проект, но не конкретно за компютърната платформа "SpiNnaker".

Доколкото разбирам, сериозно препятствие пред пълната реализация е най-вече недостатъчната мощност на суперкомпютрите; "SpiNnaker" и Системата BrainScaleS са уникални като архитектура, но засега са много далече като капацитет да реализират по-големи модели. Едно от решенията е да ги интегрират с други суперкомпютри, което е направено, както се вижда от информацията, другото е да се повишава техния собствен капацитет, което очевидно също се прави с новите чипове и архитектура. Покрай тази информация ми попадна нещо за Гугъл, коментар от блог на човек, който твърди, че от 20 години се занимава със суперкомпютри:

"Миналата седмица Google обяви второто поколение на своята TPU архитектура, всяка от които е способна на 180 терафлопа на устройство, заедно с мрежова архитектура, която позволява до 64 от тях да бъдат групирани заедно в един "TPU pod", предоставящ 11,5 petaflops, който може да бъде приложен към един дълбок модел на обучение.

Вместо да поддържа този нов хардуер стриктно за вътрешна употреба, Google прави 1,000 от тези нови TPU на разположение на отворената изследователска общност чрез новия си TensorFlow Research Cloud с комбинирана мощност от над 180 petaflops. Тази нова научноизследователска инфраструктура ще бъде достъпна за всички открити изследвания на дълбокото обучение. За компании, които желаят да проведат собствени проучвания, които няма да бъдат публикувани или споделяни, те предлагат паралелно търговско предлагане.

Само един от тези нови панели за TPU е значително по-мощен от най-мощния понастоящем избран ресурс XSEDE (NSF-поддържаната суперкомпютърна програма, която току-що бе подновена миналата година), която има мощност само 9,6 petaflops. Дори системата на Blue Waters, финансирана от NSF, достига максимална производителност от 13.34 petaflops, малко по-висока от единичната TPU Pod и повече от 13 пъти по-бавна от новото открито предложение за изследвания на Google.

Тъй като Google, Amazon и Microsoft предлагат на академичната общност все по-големи и по-големи изчислителни ресурси, това повдига въпроса каква роля ще играе традиционният академичен компютърен модел, особено когато области като дълбокото обучение изискват фундаментално различни архитектури, предпочитани за традиционната симулационна среда от страна на академичните среди и компаниите, предлагащи облак залагат собствения си бизнес върху нов хардуер, предназначен за целта, но просто недостъпен другаде.

Всичко това, като човек, който прекара почти десетилетие и половина от кариерата си в академичния суперкомпютърен свят, е поразително да се види колко далеч и колко бързо ерата на рекламния облак изпревари остарялото изпълнение на компактни партиди, централизираните софтуерни решения и ориентиран към процесора свят на академичните изчисления. С пускането на новия отворен изследователски облак за дълбоко обучение със 180 petaflop на Google, остана ли бъдеще за академичния компютинг или всички ние ще се движим трайно в облак?"

https://www.forbes.com/sites/kalevleetaru/2017/05/22/googles-new-180-petaflop-deep-learning-cloud-and-the-future-of-academic-computing/#6c8b560261f0

Това, което се цитира 180 petaflops от "облак" на Гугъл, е 9 пъти по-бързо от най-мощния европейски компютър във Швейцария, към който е интегрирана програмата HBP в момента, а съобщението е от 2017. Доколкото виждам, развитието на изчислителната мощ върви с невероятно бързи темпове:

Year	Supercomputer	Peak speed (Rmax)	Location
2018	IBM Summit	122.3 PFLOPS	Oak Ridge, U.S.
2016	Sunway TaihuLight	93.01 PFLOPS	Wuxi, China
2013	NUDT Tianhe-2	33.86 PFLOPS	Guangzhou, China
2012	Cray Titan	17.59 PFLOPS	Oak Ridge, U.S.
2012	IBM Sequoia	17.17 PFLOPS	Livermore, U.S.
2011	Fujitsu K computer	10.51 PFLOPS	Kobe, Japan
2010	Tianhe-IA	2.566 PFLOPS	Tianjin, China
2009	Cray Jaguar	1.759 PFLOPS	Oak Ridge, U.S.
2008	IBM Roadrunner	1.026 PFLOPS	Los Alamos, U.S.
		1.105 PFLOPS

 

https://en.wikipedia.org/wiki/Supercomputer

Това са най-бързите в света, засега, системи от 2008-2018, видно е, че за 10 години капацитета се е увеличил около 120 пъти, при това не говорим за метода на Гугъл в "облак", а за единични системи. Според мен, въпрос на броени години е, може и да греша, да бъде постигната компютърна бързина и мощност, която да позволява технически симулацията на човешки мозък.