×
Бизнес ЮГ София Парламентарни избори 2023 Войната в Украйна Политика Общество Общини Спорт Разследване

Управител:
Веселин Василев, email: [email protected]

Главен редактор:
Катя Касабова, email: [email protected]

Коментарите под статиите се въвеждат от читателите и редакцията не носи отговорност за тях! Ако откриете обиден за вас коментар, моля сигнализирайте ни!

Категории
Вашият сигнал Връзка с Флагман Flagman в Telegram
Накратко
НА ЖИВО
Най-нови Най-четени Най-коментирани

Опасен пробив с изкуственият интелект предизвикал скандалите в OpenAI, има ли защо да се притесняваме


Опасен пробив с изкуственият интелект предизвикал скандалите в OpenAI, има ли защо да се притесняваме
Новата разработка можела да решава сравнително сложни математически задачи, чиито условия са зададени в текстови формат - немислимо постижение само допреди няколко месеца
24 Ноември 2023, Петък, 21:00 ч.
Автор: Георги РУСЧЕВ

Какво представлява сингуларността и близко ли сме до нея

Опасен пробив в сферата на изкуствения интелект май ще се окаже причината за скандалите в OpenAI - компанията, която стои зад чатботът ChatGPT - която наскоро бе придобита от Microsoft. Новината бе съобщена от „Ройтерс” и е базирана на слуха, че до Борда с директорите е бил изпратен доклад от служителите, който представял пред тях „сериозния риск за бъдещето на човечеството”, ако технологията продължи да се развива с тези темпове.

Касае се за разработка на компанията, която засега държи кодовото име Q* (чете се „Кю стар”). Тя представлява изкуствен интелект, базиран на невронни мрежи, който владее математиката, решавайки правилно сравнително сложни алгоритмични задачи, чието условие е зададено с текст. Това звучи на първо четене, но всъщност е нещо, с което досега компютрите изобщо не можеха да се справят. За успешното решение на подобна задача не се изисква само разбиране на математиката, но и не езика и комплексните му форми на изразяване. Q* явно обаче се справя добре и това е уплашило разработчиците.

Най-опасното е случая - машината се учи да решава задачите сама, но и с помощта на оператор. Това би могло да означава, че в сравнително кратки срокове - да речем няколко месеца, ако тя функционира и се обучава постоянно, е напълно възможно да придобие интелект, доближаващ се, ако не и надвишаващ този на човека. С други думи - силен изкуствен интелект или крачка напред към синтентичното съзнание.

Засега няма официално потвърждение нито по отношение на естеството на Q*, нито за това дали действително този доклад, цитиран от Ройтерс, е причината за скандалите в OpenAI. Върнатият на поста си директор Сам Олтман обаче сега става ясно, че ще фокусира целия екип върху „разработката на изкуствен интелект, който да познава човешките идеали”.
Какво е „силен изкуствен интелект”

На английски терминът е Artificial General Intelligence или AGI. Това е машина, която има всички когнитивни способности на човека, може да се учи и да запазва информация, както и да предава такава и да я трансформира. Работи с данни, анализира ги и прави изводи за светът. Това е „светият граал” на индустрията, която опитва да разбере как е възможно да направи подобна машина. За пръв път в историята на човечеството, сега сме най-близко от всякога. Но какви са

Опасностите

Рискът от AGI не бива да се подценява. Както някои от най-големите разработчици на системи с изкуствен интелект написаха преди няколко месеца, нужно е при работата с тази технология да се подсигури, че крайният продкут ще харесва човечеството и ще е съгласен с неговите идеали. Филми като „Терминатор”, „Матрицата”, „Изкуствен интелект”, „Екс Макина”, дори анимации като „Wall-E”, добре показват какви може да са последиците от т.нар. „подивял ИИ”. Не е случайно, че дори сега, когато сме на ръба на историческо откритие, учените са предпазливи в разработките си. Дори повечето от „агентите” с изкуствен интелект, които и сега са пуснати за употреба, не работят с интернет или са допуснати до т.нар. „пясъчник” - ограничено поле за техните функции, което наподобява реалните условия, но е напълно откъснато от света.

Проблемът е, че машините от този тип имат способността да се самообучават. Съответно и да се самоподобряват, ако им бъде разрешено. В един хипотетичен случай, в който те бъдат „пуснати” на свобода, последиците са непредсказуеми. В рамките на часве или дни система, въоръжена с AGI може да научи всичко за човечеството чрез интернет. Може да разбере неща, които ние не разбираме, да направи неща, които ние не можем да спрем. Да стане „по-умно” от колективното съзнание на цялото човечество. Това, както пише Върнър Виндж още през 1983 г., се нарича

Синглуряност

Името идва от термина за центъра на астрономическите черни дупки. За него нямаме информация, защото след хоризонта на събитията, няма как да видим нищо, освен тъмнима. Хоризонтът на събитията при черните дупки е мястото, след което дори светлината, движеща се с приблизително 300 000 км/с във вакуум, не може да избяга заради огромното гравитационно поле, създадено от плътната маса в центъра на черната дупка - в сингуларността. Аналогията би следвало да е ясна от тук нататък.

Технологочната синглуряност е хипотетичната бъдеща точка от време, в която технологичният прогрес става неконтролируем от човечеството и в този смисъл - необратим. Няма модел, който да може с категоричност да предскаже кога ще стигнем до тази точка, но по пътя, по който сега сме тръгнали, това е неизбежно. Неизвестно е и какво ще се случи след това.

Един от възможните варианти за достигане на въпросната сингулярност е именно създаването на AGI - машина, която има капацитета на човешкия ум, но може да „разсъждава” много, много по-бързо и да съхранява и обработва много, много, много повече информация. Веднъж създадена, тя ще сложи край на досегашното общество, защото ще реши всички проблеми

Или ще го унищожи

Няма как да предложим какво ще „мисли” една такава машина за човечеството - за създателите си. Веднъж получила достъп до цялата информация, няма гаранция, че няма да реши, че ние сме чума за планетата и да открие най-лесният начин да ни изтреби напълно, за да спаси Земята. Това не е задължително да се случи чрез ядрени оръжия, както в много от фантастичните филми описват събитията от „края на света”. Има къде къде по-елегантни начини, някои от които самите ние вероятно няма да сме измислили в онзи хипотетичен момент. Макар да сме доста добри в измислянето на креатвни начини да се избиваме. Какъв обаче е до този момент

Прогресът

Към днешна дата в онлайн пространството има пуснати няколко модела на изкуствен интелект, ако може да се нарече така той, които са свободни за ползване. Писали сме за два от най-популярните - MidJourney и ChatGPT. Отделно от тях има и други „приложения”, които намират употреба за други неща извън генерирането на снимки по текст и нов текст по зададени критерии. Има например изкуствен интелект, който подобрява качеството на звук. Има такива, които променят глас. Има такива, които разпознават лица и ги свързват с хора.

Има и такива, за които нищо не подозираме. Но на този етап тези приложения, поне пуснатите за публична употреба, са далеч от опасни. Поне за цялостното съществуване на човечеството. Изглеждаме далеч от сингулярността.

Но със скоростта, с която се развива технолгоията и с финансите, които се наливат в нея в последните 2 години, това много драстично и много бързо може да се промени. Особено ако попадне в грешните ръце.

 


В категории: IT и технологии


Флагман.БГ Apple вкарва ChatGPT в iPhone Apple вкарва ChatGPT в iPhone 17/05/2024, Петък 13:20 0
10
Коментара по темата
10.
Хахха
25.11.2023 11:16:46
0
0
Перник хареса това
9.
Сам Алтман - Банкман
25.11.2023 09:59:58
1
1
Финансовият мехур на чат-ботовете взе да издиша. Това е и най-голямата опасност.
8.
до 4
25.11.2023 09:45:13
0
3
Бъркаш се. Човешкият мозък не забравя нищо. Само така ти се струва. Филтърът е по-скоро на входа, не се запомня ненужното.
7.
Мечти, до 4
25.11.2023 08:16:11
0
3
ИИ отсъжда "СПРАВЕДЛИВО", но как?
Отсъжда по предварително определен алгоритъм. Това е важното. ИИ няма, това е просто един алгоритъм, написан от човек. За да узнаем как работи, ще трябва да учим програмен език.
6.
Бай Пенчо
25.11.2023 08:10:47
2
5
Статиятя е много добре написана, а коментарите на повечето под нея показват че това са хора, които даже и не са пробвали какво може AI. Положението наистина е тежко и ще бъдем свидетели даже до няколко месеца на серизона заплаха.
5.
6matarok
25.11.2023 07:59:08
1
1
4udiha se s kakvo o6te da pla6at naroda , tazi godina daje fentanilovite shtati si priznaha 4e bili znaeli za izvanzemnite a tqhnite ibrek4ii mexikancite daje izkaraha nkakvi 4irosani telca na izvanzemni, cqlata taq glupost ne hvana diki6 i celiq svqt im se prismq na fentanilovite, sega izmisliha nova pla6ilka s koqto da ni strahuvat , izkustveniq intelekt e mnoooogo opasen, toest ne moga da mu natisna kop4eto OFF i do tam , ami toi bil opasen 4ak za 4ove4estvoto, vreli nekipeli kakto vinagi
4.
с.Труд
25.11.2023 00:38:35
2
10
В Китай ,САЩ,Израел в някой натоварени СЪДилища AI е изместел човешкия СЪДИЯ/СЪДИЙКА
AI отсъжда СПРАВЕДЛИВО ,НЕ взима рушвети ,НЕ се договяря с мутри,
АI НЕ си купува къщи на Бахамите,Буджака ,Халкидики
AI НЕ прави чадър на мури
AI ЗНАЕ на изуст ВСИЧКИ закони,алинеи ,закони,межд.правни уредби
В баз@та д@нни на АI им@ милиарди дела
АI НЕ пие,не пуши,не шмърка бело
AI НЕ харчи излишни милиони ня бедния дянъкоплатец нито взимя 12 и 13 заплата
AI НЕ харчи гориво и НЯМА скъп служебен автомобил
AI НЕ харчи за служебни командиравки,тоги ,обувки и тоалети
AI не е и" калинка ЙОрист" от БСУ

На същия принцип АI Chat GP може да ЗАМЕСТИ детски учители,уневерсететске преподавятели професори тунеядци ненжни плъхове академици,
Общински съветници
КМЕТОВЕ
Зам.кметове
шофьори в жп и градски транспорт
и дори ЛЕКАРИ
но НЕ и зъболекари

В Кауфланд ВЕЧЕ има е-каси БЕЗ персонал
В Латвия всичко е ЕЛЕКТРОНО дигитално
А на Запад БАНКИте вече ся почти и само банкомати БЕЗ персонал
3.
Няма
24.11.2023 22:11:55
8
10
Няма изкуствен интелект или по български - разум. Няма изкуствен разум и никога няма да има. Така нареченият ИИ може да е само база данни в която се изпълнява алгоритъм управляван от човек на определени етапи. Ако базата данни започне да изпълнява задачата да се самоубочава по определен ред от свободния интернет, пак няма да може да достигне до разум, защото не ще може да ползва мисълта дори само на един отделно взет човек. Уникалното в човешката памет е способността да забравя ненужното. А алгоритъма не може сам да прецени кое е ненужно.
2.
Жул Верн
24.11.2023 21:59:51
1
22
Преди 200 години бъдещето се е описвало в книги и е ставало реалност след 100, преди 30 години бъдещето се показваше във филмите, чиито сюжети днес са реалност, а днес нещата се развиват с такава скорост, че е наистина плашещо. Рано или късно духа ще излезе от бутилката, неизбежно е.
1.
спрях
24.11.2023 21:47:25
15
4
да чета след "е напълно възможно да придобие интелект"
Ми не, не е възможно. кво като реши неква задачка.. нищо не означава. Няма човешки интелект.
калкулаторът по умен ли е от теб? А шах програма?
 
Добавете коментар
Моля, въведете Вашето име
Моля, въведете Вашият коментар
Въведете защитния код:
Моля, въведете защитния код
 
България Всички новини
Ето кога излизат резултатите от изпита по БЕЛ Ето кога излизат резултатите от изпита по БЕЛ Учениците имах избор дали да пишат есе или съчинение Защо бургаските зрелостници избраха мълчанието пред приказката за стълбата (ВИДЕО) Защо бургаските зрелостници избраха мълчанието пред приказката за стълбата (ВИДЕО) Само двама от тях се решиха на интерпретативно съчинение за „Цената на компромиса“ във фейлетона на Смирненски Марихуана цъфна в градинката пред Районно управление на МВР Марихуана цъфна в градинката пред Районно управление на МВР Семенцата от канабис случайно се появили в градинката на ченгетата Пред очите на Пулев: Млатиха се до кръв в пандиза Пред очите на Пулев: Млатиха се до кръв в пандиза Топдиригентът Левон Манукян дирижира хора на затвора Извънредно заседание на НС във вторник - според някои депутати безсмислено Извънредно заседание на НС във вторник - според някои депутати безсмислено Народните представители ще изслушват премиера Димитър Главчев Дино парк – уникалната атракция, която завладя Южното Черноморие Дино парк – уникалната атракция, която завладя Южното Черноморие Атракционният център се намира в парк „Езеро“ в Бургас Ето коя е темата на матурата по БЕЛ, учениците ликуват Ето коя е темата на матурата по БЕЛ, учениците ликуват Вижте за кое произведение пишат зрелостниците Кандидат-депутатите на БСП откриват кампанията в червената крепост Созопол Кандидат-депутатите на БСП откриват кампанията в червената крепост Созопол Четвъртото място в листата е  за зам.-кметът на Созопол Тодор Дамянов, който провежда сериозна преференциална кампания Какво се промени на матурите тази година - отвори се нова възможност Какво се промени на матурите тази година - отвори се нова възможност Организацията в училищата е много стройна, видя репортер на Флагман в две различни софийски училища Пуснаха от ареста счетоводителка от случая порт „Европа”, вижте разказа на дъщеря ѝ Пуснаха от ареста счетоводителка от случая порт „Европа”, вижте разказа на дъщеря ѝ Жената била изведена от дома си в кв. Ветрен вчера в 8:30 ч. и досега е била разпитвана
САЩ готови да наложат санкции на Китай заради визитата на Путин? САЩ готови да наложат санкции на Китай заради визитата на Путин? Не може едновременно да сте и със Запада, и с Москва, обявиха от Държавния департамент Пекин и Москва укрепват връзките си на фона на засиленото руско настъпление в Украйна Пекин и Москва укрепват връзките си на фона на засиленото руско настъпление в Украйна Двудневното държавно посещение на Путин в страната, която е сред най-големите съюзници на Русия, идва в момент, когато въоръжените сили на Москва засилват настъплението си в Харковска област в Североизточна Украйна Заради Олимпиадата нощувка в хотел в Париж струва около 411 евро Заради Олимпиадата нощувка в хотел в Париж струва около 411 евро Тази цена е ниска, по-рано нощувките струваха до 699 евро средно Байдън срещу Тръмп в директен дебат на 27 юни Байдън срещу Тръмп в директен дебат на 27 юни Готов за мошеника Джо, коментира бившият президент Той бе най-привлекателният илюзионист, но днес го обвиняват в сексуално насилие над непълнолетни Той бе най-привлекателният илюзионист, но днес го обвиняват в сексуално насилие над непълнолетни Дейвид Копърфийлд в продължение на десетилетия тормозил 16 жени, които тогава били непълнолетни, се казва в обвинението Това се случва на почти всеки тийнейджър, а може да говори за страшна болест Това се случва на почти всеки тийнейджър, а може да говори за страшна болест Тя мина през Ада, докато майка й подозираше, че всичко се дължи на възрастта й Гардовете на Фицо действали като аматьори? Ген. Коджейков с мрачна прогноза за Европа заради мигрантите Гардовете на Фицо действали като аматьори? Ген. Коджейков с мрачна прогноза за Европа заради мигрантите Ако има втора атака някъде отзад, премиерът на Словакия щеше да бъде доубит, коментира бившият началник на българската национална служба за охрана  Кой е виновен за стрелбата срещу Фицо? Атентаторът бил радикализиран старец Кой е виновен за стрелбата срещу Фицо? Атентаторът бил радикализиран старец Напрежението е къкрило като в тенджера под налягане, коментира  Милен Керемедчиев Путин пристигна в Китай Путин пристигна в Китай Надява се да задълбочи стратегическото партньорство между двата най-мощни геополитически съперника на САЩ Простреляният премиер на Словакия дойде в съзнание след дълга операция Простреляният премиер на Словакия дойде в съзнание след дълга операция Полицаи са застанали до входа на болница "Рузвелт" в словашкия град Банска бистрица, където беше опериран Роберт Фицо
Доц. Наталия КИСЕЛОВА Доц. Наталия КИСЕЛОВА Промените в Закона за хазарта не бяха приети по правилата на Конституцията Виц на деня Виц на деня - Имам чувства към теб!
- Наистина ли? Какви?
- Чувствам че ми лазиш по нервите!
Виц на деня Виц на деня - Геле, чух оти у вазе ти миеш прозорците.
- Ааа, я мием и подо.
- А жена ти?
- Е па она е голема, она сама си са мие...
Статус във фейсбук Статус във фейсбук Щастието е като пръднята... ако е твое, притеснява другите.
Автори Флагмани
Маркетинг Екип
Анна Добрева
Специалист Маркетинг и реклама, Copywriter
Затвори