Задал этот вопрос на Стек Оверфлоу, но там, похоже, щас заклюют …
Питорч называет градиентом dLoss/dWeight, хотя математически это просто частная производная, градиент - это вектор. Я пытаюсь копаться в математическом аппарате нейросетей, и у меня возникает некоторая путаница с терминологией.
Все таки, с чем имеет дело Питорч при обновлении весов, с частной производной, или с градиентом. Если это все же градиент, как его и называет торч, то почему это скалярная величина, а не вектор?
Спасибо за помощь тем, что ответил!

Renaldas
Питорч называет градиентом dLoss/dWeight, хотя математически это просто частная производная, градиент - это вектор. Я пытаюсь копаться в математическом аппарате нейросетей, и у меня возникает некоторая путаница с терминологией.

wiki. градиент

В одномерном пространстве градиентом будет что?

В таком случае градиентом будет частная производная.
Это то же самое, что скаляр называть тензором 0 размерности?

Ты немножко форумы перепутал.
Иди вот там спрашивай это https://dxdy.ru/ , там тебе быстро объяснят, кто ты и что ты в математике именно.
Просто ты такой странный “я интересуюсь математической базой нейронных сетей, но пришёл на форум программистов по питону что-то там спрашивать про математику”. Это о чём говорит?

Renaldas
Задал этот вопрос на Стек Оверфлоу, но там, похоже, щас заклюют …

И тебя это ничему не научило? Там тоже есть умные люди, но они не будут тебя обслуживать.

Просто программирование - это создание программ. Ты какие-нибудь программы создаёшь? Нет. А зачем ты нужен тогда? “Я вот пришёл вам показать всем, что вы дураки, не знаете математику, а я вот умный, только вот вам почему-то платят, а я вот сижу голодаю, потому что никто меня не берёт и не зовёт”. Слушай, это вообще не от знаний зависит. Дело только в том, можно ли с помощью тебя заработать больше денег или нет. Если ты болтологией занимаешься, то нет, поэтому ты и нахрен и идёшь, никто не будет тебе ничего писать и обращаться к тебе типа “приди к нам! спустись к нам с небес! о, великий гуру!”. Ты пойми эту простую вещь и тогда у тебя сразу всё нормализуется.

Во-первых, эти нейронные сети нахер не нужны. Без них можно очень много умных программ написать. Но когда человек не может нихера писать, даже примитив какой-то, он говорит “а я вот должен нейронные сети использовать, тогда у меня всё получится”. Да ты просто признай, что ты основ не знаешь простейших, поэтому у тебя ни одной программы не получается сделать, даже какой-то элементарнейшей. Какие нейронные сети?! Они не спасут тебя от безграмотности. Не умеешь нихера, потому что не учился ничему.

Renaldas
В таком случае градиентом будет частная производная.
Это то же самое, что скаляр называть тензором 0 размерности?

Откуда ты знаешь, что будет градиентом? Сам придумал?
Скаляр назвать тензором нулевой размерности - просто глупость какая-то.
Поэтому иди вот туда вот, куда я тебе сказал.

Типа “если существо пердит, значит это жопа”, потом “а! я понял, жопа - это существо!”, ты дурак что ли? Ты знаешь, что такое импликация? Какой-то примитив про тензор прогнал; вообще не разбираешься, что это, как это.

Вот иди туда, в эту фигню, там тебе быстро морковку начистят.

Слушай, дядя, я врач стоматолог по специальности, и просто интересуюсь тем, что спросил тут (обрати внимание, дядя, подраздел форума “Питон для НОВИЧКОВ”). Если я очень в чем-то провинился своим вопросом, то нехер писать простыни, а можно просто либо промолчать, либо одной ссылкой послать туда, где “лучше объяснят”. Мне показалось, что вопрос про нейросети и Питорч библиотеку, пускай и теоретический, достаточно хорошо подходит именно для форума “питонщиков”. Извини и не кипятись, если я ошибся, спасибо за то, что ответил, и то, как меня оценил.
Я думал это только мы, дантисты, такие злые по отношению к новичкам на форумах, но ваши пуще наших!
Спасибо еще раз!

Renaldas
Слушай, дядя, я врач стоматолог по специальности

Тем более. Ты, значит, гуманитарий вообще. Тут даже просто вопрос, сможешь ли ты программировать, возникает сразу. Как у тебя с математикой школьной? Обычно у гуманитариев со школьной математикой очень всё хуёво. А высшую математику трогать без школьной нет никакого смысла, потому что они друг на друге базируются и никак иначе не бывает. И что ты полез тогда туда? шибко умный?

Renaldas
Если я очень в чем-то провинился своим вопросом, то нехер писать простыни

Где ты простыни увидел? Я это всё набираю минуты за три или за две. Простынь - это когда я раз в десять больше пишу, кропотливо всё объясняя, каждый момент. Но ты её и читать замучаешься.

Renaldas
Мне показалось, что вопрос про нейросети и Питорч библиотеку

Да не пользуемся мы этим всем. Это же хайпотема просто, которая ничего не даёт. Хочешь, чтобы программа при поиске человека “распознала” его и нашла четыре стиральные машины, утверждая, что это он и есть, просто в разных ракурсах так выглядит? Вот что такое нейросеть. Ты посмотри на ChatGPT, она же просто врёт с серьёзным выражением лица и не краснеет.

Renaldas
Я думал это только мы, дантисты, такие злые по отношению к новичкам на форумах

Так ты спрашивай про питон, про программирование. А то полез в дебри какие-то бессмысленные.

Вот ты можешь программу для смартфона написать себе? Для компьютера можешь себе программу написать какую-нибудь? Просто элементарно напиши программу, которая ходит в Интернет, узнаёт погоду на день и создаёт тебе файл на рабочем столе с информацией о погоде. Там никакая нейросеть не нужна даже близко, но написать ты её не сможешь. Так лучше сконцентрируйся на этом, на том, почему ты не можешь её написать, чего не хватает, какие пробелы в знаниях.

Мне не особо приятно общаться с таким озлобленным человеком, я ничего тебе плохого не сделал, и мы лично не знакомы настолько, чтобы ты тут меня отчитывал. Будь добр, просто проигнорируй тему. А я уж сам разберусь, что я умею, чего не умею, зачем полез, что мне писать, чем интересоваться и вообще как мне жить.
Договорились?

Renaldas
Мне не особо приятно общаться с таким озлобленным человеком

Да вообще похрен, что тебе там неприятно. Ты пойми, ты никому не нужен. Ты решил закосить под знающего. Вот ты говоришь, что ты стоматолог. Ну вот и представь, что приходит какой-то чмошник к тебе в стоматологию и говорит "ребята, я сейчас хочу у вас тут лицо прооперировать на вашем клиенте, естественно, который придёт к вам рано или поздно, там восьмёрки, которые горизонтально лежат, залезть там в них и так далее, вот сейчас выясняю всё про скальпели там, как лучше это будет всё разворотить“, тебе говорят ”мальчик, а что у тебя изо рта-то так воняет?“, ты говоришь ”да вот не знаю“, они такие ”ты зубы-то чистишь?“, ты такой ”ну да, правда не знаю, как, не очень, короче“, они такие ”ну там надо пасту на щётку, потом там прочищать между зубами это всё и там вот это вот всё делать“, и ты такой говоришь ”да я знаю что там примерно делать надо, у меня вопрос другой! я про операцию вас спрашиваю, а вы мне какую-то хуйню говорите тут! про зубную щётку! я блять в них не разбираюсь, я по скальпелям специалист! я их сейчас изучаю!". А потом выясняется, что ты просто слышал, что у стоматологов врачей челюстно-лицевых хирургов большая зарплата, особенно если они могут вставить новые зубы всяким звёздам, людям с деньгами и так далее, поэтому решил прийти и закосить, что ты типа такой же, как они. Понимаешь? Вот так вот оно всё работает и ты уже там сотый, который там приходит вот так поумничать.

Renaldas
А я уж сам разберусь, что я умею, чего не умею

Если бы ты пришёл сюда с вопросом “как почистить зубы? у меня вот изо рта воняет”, тебе бы ответили и всё рассказали про все зубные щётки, пасты и так далее. Это не впадлу делать. Но если ты косишь под знающего, то всё это быстро выясняется, что ты абсолютный ноль, а потом и отношение формируется. Споришь - значит, ты какой-то прилипала очередной и тебя надо гасить. Не споришь - значит, тебя оставляют и определяют в вопросики про зубные щётки.

Понимаешь, идиотов сейчас очень много сюда приходит и все как один говорят “нет, я не идиот, я крупный бизнесмен, вот правда без вашего форума и без вас я что-то как-то свой бизнес построить не могу, так что давайте-ка мне помогайте или идите на хуй!”

Вот тебе пример очередного хуесоса какого-то. Значит, он зашёл в форумскую группу в телеге, его спрашивают “а что вот ты делаешь?”, замечая его Тор, Кали и так далее, он такой “да я вот ломаю там кое-что”, ему говорят “ну так и иди на хуй, чо ты сюда-то припёрся?” и он такой приходит на форум и пишет “форум - кусок говна” (там его забанили, запретили запись, поэтому туда он написать больше не мог, но насрать-то хочется напоследок). Он имел в виду “форум - кусок говна, потому что не помог мне вообще взломать какую-то фигню и поиметь там кого-то, а сам-то я не умею, сам-то я лох, и вот они в этом виноваты, с ними бы я смог, а без них я лох, действительно, и, получается, что я лох из-за них!”. Понимаешь? Вот это вот уёбище здесь не задерживается, не оставляется, потому что смысла в нём никакого нет, у нас тут не Ноев ковчег, чтобы каждой твари по паре было.

Так что ты сам выбирай. Либо ты учишься всякую примитивную хуйню делать, которую ты делать не умеешь, либо иди гуляй Вася. Ты здесь всё равно только липнуть будешь ко всем, где бы свою попку пристроить и плюшки загребать лопатой какие-нибудь, пока никто не понял там, что ты ноль. Ещё и умничать будешь по пути, мол вон смотрите нейронные сети, какая-нибудь параша ещё, про которую ты где-нибудь там слышал. А что ты там говоришь, что вот с тобой сходу общаются нелицеприятно, мол это портит среду там, всем страшно так, что их сразу встречают так, так это тоже легко проверяется, потому что достаточно закрыть твой топик и посмотреть на все другие топики вокруг. И, о чудо! Тут помогли, там помогли, никого не послали ни там за тупой вопрос, ни там. Наверное, всё-таки, что-то не то именно с тобой. Ну вот что не то, я вот объяснил и стереть ты это не можешь.

Renaldas
Задал этот вопрос на Стек Оверфлоу, но там, похоже, щас заклюют …

Спроси у них, почему глобальные переменные нельзя делать или как можно найти ответ в Google, как им пользоваться вообще. Может быть, они поймут твою искреннюю заинтересованность. А пока что мы солидарны.

Спасибо и успехов.