Отиди на
Форум "Наука"

Recommended Posts

В журнала Nature е публикувано интересно проучване на MIT, което изследва моралните ценности на хората чрез експеримента Морална машина (http://moralmachine.mit.edu/). Представителната извадка се състои от 40 милиона източника на експериментални данни от 233 държави за период от 4 години.

Експериментът се основава на класическия „Проблем с тролея“. При него участниците трябва да решат кого да спасят от катастрофа. Дали да блъснат превозно средство в някаква физическа преграда и да убият пътника, за да спасят минувач, или да убият минувача, за да спасят шофьора. Вариациите на този казус са безкрайни и поставените условия могат да са изключително разнообразни.

В Моралната машина ситуацията е малко по-комплексна. Фокусът е върху автономните коли. Някои от сценариите, които се разглеждат, включват дали да се жертват животите на пътниците в колите, за да се спаси животът на престъпник, куче, коте и други.

Естествено най-много хора биха предпочели да спасят хората в автомобила пред животните. Интересното е, че хората са по-склонни да спасят живота на коте, а не на престъпник. Освен това хората по-често са спасявали младежи, отколкото възрастни.

Феноменът има и географска специфичност. Източните народи (арабските народи и азиатците) биха спасили възрастен човек, а не по-млад. Хората от Централна и Северна Америка са по-склонни да спасят живота на животно, а не на човек.

Функцията на тези експерименти е да се изяснят някои етични проблеми пред автономните коли, които рано или късно ще се появяват по пътищата.

Източник: Edmond Awad, Sohan Dsouza, Richard Kim, Jonathan Schulz, Joseph Henrich, Azim Shariff, Jean-François Bonnefon & Iyad Rahwan; The Moral Machine experiment; Nature (2018);

Източник:

Share this post


Link to post
Share on other sites

според мен - опитите са да се реализира статистическа оценка за съставянето на алгоритми за "морал" и "етика"... А това е поредна стъпка към интергрирането на ИИ.

Не е работата само в самоуправляващите се машини, а въобще - по отношение на ИИ и развитието в тази посока... Може би колегата Сканер, ще се изкаже по-компетентно за това.

Share this post


Link to post
Share on other sites

И този въпрос си го бива. Той е от книгата/филма "Петият печат". Много ме е впечатлил, но не можах да го намеря на български, пък не ми се превежда.

Цитирай

В замечательном венгерском фильме "Пятая печать", поставленном по одноименному роману писателя Ференца Шанта, одним из ключевых эпизодов является момент, в котором один из героев (часовщик Дюрица) задает своим собеседникам один простой по форме, но крайне трудный для разрешения вопрос. Допустим, вам сказали, что через пять минут вы умрете, но вам дарована возможность воскреснуть в одной из двух ипостасей. Первая ипостась - невольник Дюдю (с ударением на первый слог), совершенно бесправный человек, подвергающийся унижениям и физическому угнетению со стороны своего господина. Вторая ипостась - этот самый господин Томоцеус Кататики. Он - властный тиран, убийца и душитель, который наслаждается своей безнаказанностью, живет в свое удовольствие и совесть его не мучает. Дюдю, впрочем, тоже совесть не мучает, но уже по другой причине. Если Томоцеус просто-напросто не знает, что творит зло, не задумывается об этом, то Дюдя размышляет о своей горькой доле постоянно, вплоть до того, что сознание собственного ничтожества дает ему успокоение в том, что зла, по крайней мере, в своей жизни он не совершает.

Так вот, спрашивает Дюрица, кем бы вы хотели воскреснуть? При условии, конечно, что о своем решении, сделанном в прошлой жизни, в новой ипостаси будет забыто. Верным здесь является замечание, которое делает один из собеседников, что человеческая жизнь не исчерпывается приведенными двумя крайностями. Не все честные люди подвергаются тяжким страданиям и унижениям, равно как и не все, обличенные властью люди, стараются выразить ее в форме насилия. Тем не менее, потребность внутреннего самоопределения заставляет каждого из героев искать ответ на поставленный вопрос. Они страдают и мучаются бессонницей. Однако вскоре сама жизнь предоставляет им возможность осуществить предложенный выбор на практике. Разрешение столь трудного вопроса для этих людей неминуемо должно перейти из области досужих домыслов и сухих теоретических построений в плоскость реального практического действия, поступка, предсмертного движения души в ту или иную сторону.

Както стана ясно, в моралната машина ще има отговори на хора, които не са в стреса на реалния избор, а го решават седнали удобно на стола си. Това не е коректно. Те трябва да са изпитали нещата върху себе си, със съдебните дела дори. Тренажорът, от който ще излязат е по- близо, но пак не е същото.

Отговорът на участниците в романа на Шанта е много интересен.

Мисля, че докато хората не си отговорим на моралните въпроси, не може да бъде създадена моралната машина. Та ние не знаем кое е по- добро, да си буен или сдържан, умен или нахакан, да се ожениш за умна или руса?

Share this post


Link to post
Share on other sites

https://life-kino.top/116398-pyataya-pechat-1976.html

Пятая печать

В названии повести и фильма использован образ из Откровения Иоанна Богослова (Отк. 6:9-10)

9. И когда Он снял пятую печать, я увидел под жертвенником души убиенных за слово Божие и за свидетельство, которое они имели. 10. И возопили они громким голосом, говоря: доколе, Владыка Святый и Истинный, не судишь и не мстишь живущим на Земле за кровь нашу?

При тролея аз бих згазил пешеходеца, защото шофйорът отговаря за повече души от тази на самотният пешеходец.....СМСМ

Share this post


Link to post
Share on other sites

Защо е това газене на хора :)

Какво бихме заредили като отговор в морална машина на простичкия въпрос. "Ако харесвате жена/мъж и й/му предложите секс, това морално ли е?"

Може и по- конкретно: Ако сте филмов продуцент и амбициозна актриса идва при вас за да помоли за роля с къса пола, която не придърпва, когато се покачва нагоре, това знак ли е, че ви съблазнява? А дали тя ще мисли същото след 20 г. и дали моралът ще е същия?

Share this post


Link to post
Share on other sites
Преди 20 минути, Втори след княза said:

и дали моралът ще е същия

Тук става въпрос за 'друг тип морал' - основан на най-базовите ценности за човешките социални същества - това е запазването на "живота" от гледна точка на вида, през социалната негова призма. Касае се за взимане на решения за действие, основани на избор между различни "варианти". Изборът се основава на йерархията на ценности и динамичните изменения в нея, спрямо ситуационните конкретни условия. Взимат се предвид и възможните разновидности...

Газенето - "по-горе" - е заради "конкретиката на примера" - защото се съотнася до  обучението и залагането на алгоритмите за ИИ - сред самоуправляващите се автомобили. Както се вижда от горното - не е само въпрос до "логика"...

А вашите въпроси, чрез които вие изразявате прочита и призмата през която интерпретирате, са малко в друга посока от тази за която е примера по-горе. (разбира се - през моята призма на "виждане" :) )

Редактирано от ramus

Share this post


Link to post
Share on other sites

В конкретния случай става въпрос за пари). Ясно е, че самоуправляваните коли също ще се повреждат и ще трябва да прави избор- дали да сгази хора на тротоара и така да убие скоростта и да запази пътниците или да се издъни в стената и да убие шофьора. Въпроса е обществото да приема за правилен избора на машината, за да няма обществено недоволство, съдилища и огромни обезщетения. Та моралния казус ще се реши без морални дилеми- което е обществено приемливо- то ще е. 

Иначе от морална гледна точка въпроса няма правилно решение, когото и да жертваш, все е погрешно. 

Share this post


Link to post
Share on other sites
Преди 5 часа, Frujin Assen said:

В конкретния случай става въпрос за пари). Ясно е, че самоуправляваните коли също ще се повреждат и ще трябва да прави избор- дали да сгази хора на тротоара и така да убие скоростта и да запази пътниците или да се издъни в стената и да убие шофьора. Въпроса е обществото да приема за правилен избора на машината, за да няма обществено недоволство, съдилища и огромни обезщетения. Та моралния казус ще се реши без морални дилеми- което е обществено приемливо- то ще е. 

Иначе от морална гледна точка въпроса няма правилно решение, когото и да жертваш, все е погрешно. 

В 99% в житейските ни деяния става дума за пари.

Но в конкретният случай, опасявам се, че тази морална машина ще се програмира по-различни морали в зависимост на това в коя част на земята ще бачка....Тук навярно /понеже Тесли само по- и най-богатите ще ползват/, ще помита пешеходците защото те са много, докато колата и пътниците и са големи клечки и са много важни за обществото.....

Впрочем тук имаше не един случай от който само един го осъдиха на съд когато с Хамера си нарочно прегазва спиращият го милиционер. 

Share this post


Link to post
Share on other sites
1 hour ago, Skubi said:

ще се програмира по-различни морали в зависимост на това в коя част на земята ще бачка

ние, хората сме по същия начин... "програмирани". Културите задават "морала", като задават 'ценностите и йерархиите от тях' с цел да регламентират и така определят и формират колективния живот. Без някаква конструкция  и "клетка" (опаковка), сред особеностите на самите потребности и потребители, груповия живот не би бил възможен.

Преди да се захващаме с "машините" и ИИ нека първо се огледаме ние, самите. Това е и смисъла на темата, поне според мен.

Ние, пишещите и четящите тук няма да променим с нищо решенията на един или друг, нито посоката на развитието. Но поне полезността може да се реализира на личния ни фронт. Разбира се - на когото му стиска, че то не е много лесна работа - както се разбира по практиката.

А колкото до машините и роботите - след като тяхното бъдеще все повече ще е "сред хората' е естествено да опитваме да ги "научим" на собствените си "правила"...

Редактирано от ramus

Share this post


Link to post
Share on other sites

Ние, хората ще се наложи да приемем машините сред живота ни. Ние, самите хора - бихме имали полза от това. Опитваме се да 'възпитаваме' новите си "човешки производни" и повечето се страхуваме от това че "нашите нови деца" ще пораснат и ще ни надраснат... защото те нямат много от нашите природни и психични ограничения. Но ние, самите хора, се опитваме да се справим с тия 'ограничения' и това е един от начините. Роботите и машините... са само част от опита ни да надмогнем някои граници - наши граници...

Това че се налага да се ориентираме сред все повече дилеми в изборите си на поведение, е защото информацията сред живота непрекъснато се натрупва и наслагва. Простичките казуси, с простички решения, вече не съществуват и само ги тътрим по инерция, особено хората които все по-трудно се адаптират към непрекъснатото усложняване.

Редактирано от ramus

Share this post


Link to post
Share on other sites
Преди 9 часа, ramus said:

А вашите въпроси, чрез които вие изразявате прочита и призмата през която интерпретирате, са малко в друга посока от тази за която е примера по-горе. (разбира се - през моята призма на "виждане" :) )

Видях си грешката в интерпретацията. Приех, че е "машина- решаваща морални проблеми", а то било "машина=кола, която постъпва при ситуация на авария с жертви "по- морално". Извинявам се.

Share this post


Link to post
Share on other sites

Рамусе, пак тръгна да витаеш из облаците. Роботите са всъщност нова джунджурия която за едни е възможност да правят пари, а за други средство да си улеснят живота.

Share this post


Link to post
Share on other sites
Преди 14 часа, Втори след княза said:

Защо е това газене на хора :)

Какво бихме заредили като отговор в морална машина на простичкия въпрос. "Ако харесвате жена/мъж и й/му предложите секс, това морално ли е?"

Може и по- конкретно: Ако сте филмов продуцент и амбициозна актриса идва при вас за да помоли за роля с къса пола, която не придърпва, когато се покачва нагоре, това знак ли е, че ви съблазнява? А дали тя ще мисли същото след 20 г. и дали моралът ще е същия?

Значи! Според мен "морална машина" е абстрактно понятие. ИИ не притежава морални качества а изпълнява зададена програма. За това се нарича изкуствен, а не естествен интелект. Т.е. не притежава чувства характерни за човешките същества, при които морал и справедливост са са заложени като биопрограма в съзнанието. Така че, на въпроса: "Ако харесвате жена/мъж и й/му предложите секс, това морално ли е?" машината ще отговори според зададената и програма, а даден човек ще отговори според възпитанието си и статуквото, определящо морални норми на поведение  и средата в която живее! На въпроса относно филмовия продуцент вече има дадени многокранто отговори! Справка: - # МЕ ТОО! Може би понятията трябва да се предефинират, защото въпросите са много, а отговорите са едни и същи! Мъжът винаги е виновен и точка! И е неморално мъж да доказва своята невинност за въображаемо изнасилване или насилие към обвинилата (нарочилата) го жена след 20-40 години, защото е осъден от феминизма още преди да се роди. Според  радикалните-лумпенизирани феминистки, няма невинен мъж защото е мъж и са необходими закони, при които не трябва да има право да доказва невинността си! 

Share this post


Link to post
Share on other sites

Херкулесе, това ми напомня вица (ама то си е баш истина) за сестрата. Като кажат един път, че сестра ти е курва, иди доказвай, че нямаш сестра.

Share this post


Link to post
Share on other sites
Преди 7 часа, Frujin Assen said:

Роботите са всъщност

...онова, което всеки си привижда в тях. Роботите ... са просто роботи. За един - те са едно, за други - друго.

Преди 4 часа, herkules said:

машината ще отговори според зададената и програма, а даден човек ще отговори според възпитанието си и статуквото, определящо морални норми на поведение  и средата в която живее!

всъщност - и човека се "програмира" именно чрез 'възпитанието, статуквото и спрямо средата в която живее.

Нещо просто, което да напомня - точно емоционалните реакции, изрази и комуникативни сигнали бяха първите крачки на разбиране и съответно - на имитация и подражание. За справка - художниците-аниматори още от преди ДИСНИ и СОЮЗМУЛТФИЛМ са се научили чудесно да боравят с емоционалния "език" и неговото пресъздаване в нещо толкова елементарно - както са рисунките... Още от зората на куклените театри - е същото... Като ние хората реагираме емоционално дори и на куклата, рисунките и картинките - при положение че "те не ги излъчват обективно" и "от другата страна не е човешко същество", а реципиента привижда през един природно заложен механизъм с който той се ражда и ползва през целия си живот...

Това непрекъснато превъзнасяне на емоционалната компонента в човека е поради факта, че твърде много хора дори не познават собствените си емоции, като просто участват в тях, но нито ги разбират, нито познават, нито различават ясно.

И в момента са налице роботи, които да общуват с емоционален език. Това се постигна далеч преди да могат да накарат робот да прави салто, на два крака, например - както това вече постига уникалният експеримент и постижение на БОСТЪН ДАЙНАМИКС, както и в началото роботът на ХОНДА. Вече са налице твърде много примери за сериозни постижения, за да изпъква толкова силно и ярко само един от тях... 

 

Share this post


Link to post
Share on other sites
Преди 12 часа, ramus said:

ние, хората сме по същия начин... "програмирани". Културите задават "морала", като задават 'ценностите и йерархиите от тях' с цел да регламентират и така определят и формират колективния живот. Без някаква конструкция  и "клетка" (опаковка), сред особеностите на самите потребности и потребители, груповия живот не би бил възможен.

Преди да се захващаме с "машините" и ИИ нека първо се огледаме ние, самите. Това е и смисъла на темата, поне според мен.

Ние, пишещите и четящите тук няма да променим с нищо решенията на един или друг, нито посоката на развитието. Но поне полезността може да се реализира на личния ни фронт. Разбира се - на когото му стиска, че то не е много лесна работа - както се разбира по практиката.

А колкото до машините и роботите - след като тяхното бъдеще все повече ще е "сред хората' е естествено да опитваме да ги "научим" на собствените си "правила"...

Така е. Тук каквото и да Ти казват сме все още рая.....Докато подъниците на по- страните са КЛИЕНТИ минимум...

Много се говори за фертраде но за ферселс едва....Така се получава, че същите стоки тук са по-скъпи и лошокачествени от тези на същата фирма на запад....И живота /защото прахосаното време по-опашки и чакане на ред в офиси/ също, тук е много по-неценен от този на западните ГРАЖДАНИ.

Днес имах работа в един офис където ми казаха, че контрактът важи от днес...Аз питам защо не от 1-ви както е датирано на документът..... Казаха ми тогава би трябвало да направите през веб страницата им....Казах, че се опитвах но уви тяхният сайт не функционираше през празника....Също и с банката ми, макар и  голяма западна, като ги питам за проблемите, ми казаха ами домейна го прави други и затова не бачка винаги и по-добре лично да дойда и чакам часове....

Значи и сега вече роботи ни третират/робот те засича за превишена скорост, изпраща на друг да те намери в регистерите и дава предложение на един био асистент да те глобят за повишена сдкорост/, но другаде вече интелигентни дрончета дават предложение, да пуснат ракета или умна бомба върху теб или не....

Планират вече законът, с койти всички публични видео камери да се включат в единна ситема с полицейски надзор. Само малко ни липсва да дадем правата за решаване на роботите и тогава и господин Дред може да отиде в пенсия...

 

Редактирано от Skubi

Share this post


Link to post
Share on other sites
Преди 4 часа, Frujin Assen said:

Херкулесе, това ми напомня вица (ама то си е баш истина) за сестрата. Като кажат един път, че сестра ти е курва, иди доказвай, че нямаш сестра.

Вицът ти е стар....

Share this post


Link to post
Share on other sites
Преди 2 часа, Skubi said:

Значи и сега вече роботи ни третират/робот те засича за превишена скорост, изпраща на друг да те намери в регистерите и дава предложение на един био асистент да те глобят за повишена сдкорост/, но другаде вече интелигентни дрончета дават предложение, да пуснат ракета или умна бомба върху теб или не....

доста филми гледате... и параноите са се пробудили, с удобството на бързите обяснения за това че вие имате известни неудобства и си ги обяснявате с някакви напълно фабрикувани схеми взети от фантастични филми. Вероятно света ви изглежда ужасно несправедлив - с толкова много негативи в него, и то преплетени тясно сред вашето ежедневие.

Сред описаните ви примери никъде няма роботи. зад всичко описано стои напълно човешки интелект, като вие се фокусирате сред неговите инструменти и опитите му да прескочи сериозния за всички проблем с пристрастията. Огромен и сериозен проблем, който шества свободно и сред този форум, дори и сред тази тема.

Share this post


Link to post
Share on other sites

Това с Дредд съдия е писателско преувеличение, но останалото е вече практика. Има доста колеги на форума попитай ги колко време им отнема деянията с официалните власти. Например откриване и регистририне на частна фирма....В Англия 1/2 ден.  Тук поне 1 седмица с късмет мин 3 дена, ако всички офиси са отворени.

Що се касае за оригиналният въпрос който по този повод,

Направиха този експеримент /навярно със спонсорирането на тези които разработват технологията/

Значи. Ти, ако ти сложа копче в количката, накъде ще го щракнеш? Пешеходци или стена? Твое ще е решението и машината ще го изпълни.

Ще Ти помогна така изглежда на живо анимацията

 

Редактирано от Skubi

Share this post


Link to post
Share on other sites

Ок, мисля си че проблемите с откриването на фирма са проблеми на бюрокрацията. Всеки има подобни такива, вкл. и аз.

Бюрокрацията я има заедно с проблемите в нея, ... още откакто ги има държавите и нуждата от поддържане на ред в социалните порядки, регламенти, правила, норми... всичко това е за да не се допуска някъде по веригата някой си да бъде пристрастен или да използва влиянието си да взима решения, с идеята за контрол.  Отгоре на всичко - прости решения. Някъде дадени въпроси са уредени по-добре, на другаде - същите въпроси - по-сложно. Въпреки системата за кръстосан контрол, в нея непрекъснато се намират пробойни и всички ги обединяваме в общото явление КОРУПЦИЯ. Греша ли в тия обобщения, според вас?

Извинете ме, но аз не виждам къде е роботът в това, дори не виждам къде е моралния аспект в него. Роботът не може да се корумпира, не може да извлича полза за себе си, не му е нужно работно време и никога не се уморява. Не му е нужен годишен отпуск, майчинство или болнични. Да - роботът е машина и също се поврежда. Но пък и ние хората - също се "повреждаме"...

А иначе - за "КОПЧЕТО и избора" - на всеки в живота му се случва да прави избори. Дали ще е пряко или директно - той прави избори след които има последствия. Понякога това са фатални избори, с много тежки последствия. Но всички носим отговорността си за това. Поне тия, дето могат да носят отговорност. Други - вина и огризения...

ПОнякога се случва да са налице условия в които времето за избор е пренебрежимо малко и няма време за рационално осмисляне на последствията. Затова не е измислен друг вариант за този проблем, освен възможно повече предварителна превантивна подготовка. Но дори и така - не означава че в дадения миг за изборът ни, той ще бъде "правилен'.

Има и други проблеми - в даден момент, "взимащият решение да щрака копчето към една или друга възможност" разполага с ограничен диапазон от възприятие. В него самия процесите по възприятието са променливи и не е възможно да се предскаже в кой момент от условен пик или пад - ще е. Например под въздействието на това че някой се обажда по телефона и съобщава че детето ти е в болница... Емоционалният афект от това рязко снижава възможността за рационален  поглед и кръгозора и широтата на възможностите за избори рязко спада... и т.н.

Възможно е след това - в разглеждането на вече случил се инцидент да са налице други възможности - за избиране, вкл. и от същия вече човек, направил избора. Но в самия миг на реакцията... всичко е уникално и неповторимо откъм съчетания на огромен брой условия. Именно заради това се нарича ИНЦИДЕНТ...

Редактирано от ramus

Share this post


Link to post
Share on other sites
Преди 20 минути, ramus said:

А иначе - за "КОПЧЕТО и избора" - на всеки в живота му се случва да прави избори. Дали ще е пряко или директно - той прави избори след които има последствия.

Много разтягаме локума.

Накратко. За да не се запънеш пак. На запад при олегналите демокрации властта е за ПОДЪННИЦИТЕ, докато при нас подънниците са за ВЛАСТТА. За това ми се отнасяха примерите.

За копчето въпросът е прост. Да драсне тук едно този който иска да участва в едно не репрезантивно изследване. Не изкам да разводнявам с животни, детски колички, старци и пр.

В случай на авария, колата кого да удари.

ПЕШЕХОДЦИ:

СТЕНА:

Share this post


Link to post
Share on other sites
Just now, Skubi said:

В случай на авария, колата кого да удари.

ПЕШЕХОДЦИ:

СТЕНА:

Моето мнение.

В случай на авария, колата кого да удари?

ПЕШЕХОДЦИ: 1

СТЕНА:

Share this post


Link to post
Share on other sites

Скуби. Относно бюрокрацията. Преди време четох нещо интересно. Англичаните решили да разберат каква ще е евентуалната полза от парните кораби при океанските превози. Направили сметка и видели, че е забравих колко, но голяма. Радост голяма! Тогава обаче някой се сетил да провери с колко са се увеличили превозите след ликвидирането на пиратството. Прираста бил ОГРОМЕН!!! Тоест новите технологии могат да помогнат, но организацията свързана с човешката дейност е многократно по ефективна. 

Същото е и Англия. При тях просто организацията е по добра, което води до тази чудовищна разлика, а не техниката.

Share this post


Link to post
Share on other sites
1 hour ago, Frujin Assen said:

Скуби. Относно бюрокрацията. Преди време четох нещо интересно. Англичаните решили да разберат каква ще е евентуалната полза от парните кораби при океанските превози. Направили сметка и видели, че е забравих колко, но голяма. Радост голяма! Тогава обаче някой се сетил да провери с колко са се увеличили превозите след ликвидирането на пиратството. Прираста бил ОГРОМЕН!!! Тоест новите технологии могат да помогнат, но организацията свързана с човешката дейност е многократно по ефективна. 

Същото е и Англия. При тях просто организацията е по добра, което води до тази чудовищна разлика, а не техниката.

Понеже пиратсвото Те самите са го координирали /съвкупно с други европейски държави/за ограбването на испанските каравели,  навярно  Privaté-rите които разполагали с Kaparbriefe, letters of marque малко повече слагали в джоба си от това което им се полагало...https://mk.wikipedia.org/wiki/Пиратство

Що се касае за организацията, колко години строим капитализма? Близо 30 години.....Не ми се вярва да нямаше възможност да нагласим бюрокрацията според нуждите на гражданите, народът.....

Но забрави да гласуваш.

В случай на авария, колата кого да удари?

ПЕШЕХОДЦИ: 1

СТЕНА:

 

Share this post


Link to post
Share on other sites

Напиши мнение

Може да публикувате сега и да се регистрирате по-късно. Ако вече имате акаунт, влезте от ТУК , за да публикувате.

Guest
Напиши ново мнение...

×   Pasted as rich text.   Paste as plain text instead

  Only 75 emoji are allowed.

×   Your link has been automatically embedded.   Display as a link instead

×   Your previous content has been restored.   Clear editor

×   You cannot paste images directly. Upload or insert images from URL.

Зареждане...

За нас

Всяка помощ за нас е ценна и се надяваме с общи усилия да успеем да поддържаме това място на научни дискусии живо. Форум "Наука" е сред малкото активни форуми в България, изключително полезно и нужно място за свободна обмяна на мисли и знания.

baner_event_marco

За контакти:

×
×
  • Create New...