Ще се превърне ли ИИ в автогол за човечеството?

  • 506
  • 13
Мислите ли, че с бързото (и малко нерегулирано) навлизане на Изкуствения Интелект не се получава изпускане на духът от бутилката. Преди дни слушах коментар по едно от местните радиостанции за това, че вече има случаи в които ИИ извършва хакерски атаки, и това без да е команда или задача поставена от човек. Просто в стремежа си да си набави повече информация се е стигнало до "организирано и целенасочено" проникване в защитени компютърни системи. В доста случаи ИИ се използва да генериране на неверни, но изглеждащи напълно реални видеоклипове, които допълнително наливат бензин във вече нажежената навсякъде обстановка. Тоест използването на ИИ е колкото полезно, толкова че и даже повече неполезно, да не кажа и по-точната дума - даже вредно.
До скоро притесненията бяха до колко професията, която упражняваме е достатъчно далеч от това да бъде заменена от ИИ. Но в последно време сигурността и добронамереността на ИИ са под въпрос.
Дали не създадохме нещо, което може да прецени, че не сме толкова разумни същества с оглед на това, което правим с останалите животниски видове и планетата, и логически да реши да ни "види сметката".
Виж целия пост
# 1
На този етап ИИ не изпитва желания и няма цели. Всяка хакерска атака е с първоизточник човек - дали с лоша умисъл или с грешки в това, което е обяснил на ИИ, това вече е друг въпрос. ИИ може да взима самостоятелни решения, но той все пак има поставена цел от някого, сам не е нито добър, нито лош, а машина, но при неправилно програмиране тези “решения” могат да доведат до негативен резултат.

Иначе, всякакви апокалиптични предположения може и да се случат, може и да не се.
Виж целия пост
# 2
Алармизма е реклама за ИИ, която е в интерес на ИИ компаниите - колко много уж ще може след кратко време. Не е кратко време, и никой все още не е измислил истинско ИИ.
Инъче е вярно че по-детайлна и синтезираща търсачка има ефект върху организацията на работа, или че ии-слоп-а е вреден, но това не са твърденията на ИИ алармизма.
Виж целия пост
# 3
Накратко: НЕ.

Призовавам хората, които се съмняват и страхуват от ИИ, да се поинтересуват малко повече какво точно представлява, как се "обучава", как функционира и какво може, и какво не.

Отчитам като грешка на разработчиците, че комуникацията с ИИ имитира реална комуникация, и така хората остават с вредната заблуда, че някъде зад екрана има "същество", "интелект". А то няма Smiley

Алармизма е реклама за ИИ, която е в интерес на ИИ компаниите - колко много уж ще може след кратко време. Не е кратко време, и никой все още не е измислил истинско ИИ.

Hands Plus1 По следващо поколение  ИИ (AGI) се работи лабораторно, но оптимистичните прогнози за реален пробив и готов продукт с пазарен вид са най-рано за 2030-2035. Според много специалисти обаче, това е твърде оптимистично.

На този етап ИИ не изпитва желания и няма цели. Всяка хакерска атака е с първоизточник човек - дали с лоша умисъл или с грешки в това, което е обяснил на ИИ, това вече е друг въпрос. ИИ може да взима самостоятелни решения, но той все пак има поставена цел от някого, сам не е нито добър, нито лош, а машина, но при неправилно програмиране тези “решения” могат да доведат до негативен резултат.

Иначе, всякакви апокалиптични предположения може и да се случат, може и да не се.

Именно Hands Plus1
С всяко нещо е така.
С ядрен синтез можеш да създадеш електричество, а можеш да създадеш и бомба.
От нас зависи.
Виж целия пост
# 4
За мен основната грешка беше, че се предостави за свободно ползване ИИ, който може да генерира изображения и клипове. Резултатът е, че генерирането на детска порнография, и то използвайки снимки на истински деца, свалени от интернет (инстаграм, фейсбук и т.н.), нарастна главоломно. За 2025 мисля ръстът беше 23000%. Наскоро и съдът в САЩ излезе с решение, че притежанието на такива ИИ генерирани материали не е престъпление, дори и да си използвал лицата на истински деца, ако си го създал само за лично ползване и не го разпространяваш. Отврат.

Иначе е просто инструмент, който при правилна употреба може да ти е от полза. Че много хора го използват да мисли вместо тях и му се доверяват без да проверят информацията е техен проблем.

Но тези програми не са реален "интелект" и митовете за възможностите им и способността да мислят самостоятелно са силно преувеличен маркетинг.
Виж целия пост
# 5
По следващо поколение  ИИ (AGI) се работи лабораторно, но оптимистичните прогнози за реален пробив и готов продукт с пазарен вид са най-рано за 2030-2035. Според много специалисти обаче, това е твърде оптимистично.


Минимум 10 години въобще някой да го измисли, и минимум още 10 години до функциониращ робот, тоест ИИ което може да си взаимодейства успешно с реалния свят (независимо дали всъщност го прави или не, или има с какво да го прави). Тоест може и сумарно да е 30 години.
Виж целия пост
# 6
Аз мисля, че ще има последствия. Според мен и соц.медии са автогол. Много хора страдат заради медиите и интернета според мен, а можеше да го използваме за по-полезни неща.
Хората, които смеят да хвърлят отпадъци навсякъде, не знам какво биха направили на роботи.
Този ии е разработен от доста умни, интелигентни, работливи хора.
Обаче като го ползваме, ние не мислим, щото то мисли вместо нас. Е, тогава кой ще работи, кой ще изгражда?
Не може ии, за сега да строи жилища или пък да готви мусака.
Виж целия пост
# 7
Е, това е защото мислиш за жилището като комбинация от зидове, конструкции, метал и прозорци. То и преди 200 год. майсторите на плетарки и паянти са го смятали като голям майсторлък изграждането на такива жилища, но нещата са се променили. Както и сега смятаме че плочкаджиите са върха на хранителната верига в майсторлъка, а ако няма плочки? Или за мусаката, да правиш запръжката в тенджера и някой да бърка с дървената лъжица... ""...there is no spoon..."

Аз не разбирам много от ИИ, но гледам/слушам хора, колкото и да са лаладжии, все пак са изградили нещичко, и се вслушвам, колкото и да е НАЛУДНИЧАВО .И прогнозата му е много по - близка от 10 години. И не го казва в БГ МАМА Simple Smile, а на G20.

Скрит текст:
Ето резюме на видеото „Elon Musk Speaks at G20 Innovation Ministerial Summit in North Carolina“ [00:00]:

Видеото съдържа кратко участие/интервю на Илон Мъск по време на среща на върха на G20 за иновации [00:00]. В него той обсъжда ролята на регулациите, бъдещето на изкуствения интелект (AI), роботиката и предстоящите предизвикателства с енергийната инфраструктура.

1. Регулации и подкрепа за иновациите
По подразбиране „Законно“ vs. „Незаконно“: Според Мъск най-добрата среда за иновации е тази, в която новите технологии са по подразбиране разрешени, а не забранени [01:18]. Той посочва Европа като пример за място с прекомерна регулация, което значително забавя прогреса [01:27].

Аналогията за гората („Малките фиданки“): Държавите често правят грешката да подкрепят големите установени компании (големите дървета), вместо малките стартъпи (малките фиданки) [02:06]. Големите компании имат достъп до правителствено лобиране, докато младите фирми се нуждаят от венчър капитал и гъвкава среда, за да растат [02:39].

2. Развитие на Изкуствения Интелект (AI)
Въздействие върху икономиката: Мъск прогнозира, че дигиталният AI ще увеличи световната икономика с 20% до 30% (около $20–30 трилиона годишно) [04:23].

Ниво „Stockfish“ в софтуера: В рамките на 12–18 месеца AI ще бъде толкова добър в писането на код и инженерните задачи, че хората няма да могат да се състезават с него — подобно на шахматния бот Stockfish, който лесно побеждава световните шампиони по шах [05:06], [05:27].

3. Роботика и хуманоидни роботи
Експоненциален растеж: Физическите иновации изискват повече време поради сложните вериги за доставки [07:14]. Въпреки това, поради рекурсивния ефект (роботи, които произвеждат роботи), производството им ще нарасне експлозивно [08:11].

Прогноза за след 10 години: Мъск залага, че след десетилетие на Земята ще има над 1 милиард хуманоидни робота [08:29]. Всеки робот ще бъде с поне 5 пъти по-висока производителност от човек, което ще доведе до многократно (дори над 10 пъти) увеличение на световната икономика [08:37], [06:20].

4. Енергийна криза и изчислителни центрове
Недостиг на електроенергия: Налице е сериозна криза за захранване на AI чиповете. Производството на чипове расте с 40–50% годишно, докато енергийният капацитет извън Китай се увеличава с едва 10–20% [11:27].

Дефицит през 2027 г.: Очаква се недостиг от поне 15 гигавата електроенергия за центровете за данни [11:09].

Възможност за държавите: Това отваря възможност за страни с налични енергийни ресурси да изграждат електроцентрали и да привличат технологични компании, предлагайки им енергийна инфраструктура срещу данъчни приходи [12:39].
Виж целия пост
# 8
Аз работя в ИТ сферата, та хич не съм боса по темата. Прогнозата изобщо не е толкова розова, а Мъск има интерес да приказва такива врели-некипели за да привлече инвеститори. А реалността е, че най-големите инвеститори в ИИ вече започнаха да се отдръпват, защото реалните възможности на ИИ лъснаха. Балонът е на път да се спука. ИИ е по-неефективен и по-скъп от работниците, а всички компании, които съкратиха сума народ за да го заменят с ИИ, сега наемат същите тези хора обратно. Минимум 10, вероятно повече години ще минат, преди да видим нещо дори малко наподобяващо реален ИИ. Това което имаме в момента всъщност са Large Language Models, не е истински изкуствен интелект.
Виж целия пост
# 9

Аз не разбирам много от ИИ, но гледам/слушам хора, колкото и да са лаладжии, все пак са изградили нещичко, и се вслушвам, колкото и да е НАЛУДНИЧАВО .И не съм го гледал само аз. И прогнозата му е много по - близка от 10 години. И не го казва в БГ МАМА Simple Smile, а на G20.


...хора (Илон Мъск) изградили нещо с настоящ оборот 100 милиарда, но оценени на 900 милиарда, защото се очаква оборота да нарастне с 800 милиарда след 3-5 години. Някакси.
Значи, аз, така, както си седя и си пиша в БГ МАМА, всъщност имам обща стойност от 800 милиарда АКО някакси накарам хората да повярват че след 3-5 години оборота ми ще нарастне с 800 милиарда (от почити нула милиарда). Тоест, все пак рекламата си е реклама (и не че постиженията нямат значение Simple Smile ).
Виж целия пост
# 10

Аз не разбирам много от ИИ, но гледам/слушам хора, колкото и да са лаладжии, все пак са изградили нещичко, и се вслушвам, колкото и да е НАЛУДНИЧАВО .И не съм го гледал само аз. И прогнозата му е много по - близка от 10 години. И не го казва в БГ МАМА Simple Smile, а на G20.


...хора (Илон Мъск) изградили нещо с настоящ оборот 100 милиарда, но оценени на 900 милиарда, защото се очаква оборота да нарастне с 800 милиарда след 3-5 години. Някакси.
Значи, аз, така, както си седя и си пиша в БГ МАМА, всъщност имам обща стойност от 800 милиарда АКО някакси накарам хората да повярват че след 3-5 години оборота ми ще нарастне с 800 милиарда (от почити нула милиарда). Тоест, все пак рекламата си е реклама (и не че постиженията нямат значение Simple Smile ).

Оф все тая ... все конспирации са ви в главата. Говорим за обща визия, нещо което човека е много вътре в нещата, и е видял повече от всички нас заедно.
И ще кача семейството си в Тесла за да ида някъде, а не в колата на някой който анализира Мъск и ми каже - моята конструкция е по - добра, качи се в моята кола.
Виж целия пост
# 11
ИИ е автогол , но в съвсем друг смисъл. Хората не умеят да поискат от него по правилния начин, като цяло не са наясно как работи и отново като цяло нямат капацитета да отличат реалността от измислицата - последното не само при ИИ, а за всичко. Всички грешки на ИИ са изключително заради човешки елемент.
Ако нещо трябва да ни притеснява, то е достъпът до ИИ и творенията му от хора, които не разбират.
Виж целия пост
# 12
ИИ е автогол , но в съвсем друг смисъл. Хората не умеят да поискат от него по правилния начин, като цяло не са наясно как работи и отново като цяло нямат капацитета да отличат реалността от измислицата - последното не само при ИИ, а за всичко. Всички грешки на ИИ са изключително заради човешки елемент.
Ако нещо трябва да ни притеснява, то е достъпът до ИИ и творенията му от хора, които не разбират.

По принцип си права, но подчертаното не е вярно. ИИ често халюцинира и изплюва измислена/грешна информация, когато му липсват нужният капацитет и база данни. Не е само защото хората не знаят какво/как да го питат. Общо взето винаги трябва да се проверява информацията, която ти дава.

Друго интересно нещо е, че създателите на LLMs имат намерение да предоставят възможност за реклама чрез тях. Та съвсем няма да може да се има вяра на програми като ChatGPT и подобни.

В момента ИИ най-добре се справя подпомагайки работата на програмисти и изглежда там ще бъде неговата ниша. Там дава най-малко грешки и върши наистина добра работа, но пак не може да работи без надзор. Като цяло това е инструмент, който хората могат да използват да си улеснят работата и да са по-ефективни, но не може да работи самостоятелно или да замени изцяло работник, дори за прости рутинни задачи. И няма изгледи това да стане възможно в близкото бъдеще.
Виж целия пост
# 13
Мислите ли, че с бързото (и малко нерегулирано) навлизане на Изкуствения Интелект не се получава изпускане на духът от бутилката.
Да, мисля. Поради слабото звено в ИИ - човекът. Дори и инцидента, който цитираш (предполагам Hugging Face), пак заради човеци се е случил. Човешка глупост и безхаберие.
В момента има отпор срещу внедряването на ИИ и мерки за по-голяма безопасност при работа му. Очаквам да се засили.

Да се допълня. Днес изтече, че OpenAI са решили Навие Стокс... "Интересни времена" се задават. Да му мислят тези след нас.
Виж целия пост

Започнете да пишете...

Страница 1 от 1

Общи условия