Мне, наверное, повезло. Тексты на BW читаю только от особо проверенных авторов, а моторное масло в жизни на вкус не пробовал и не тянет пробовать.

И не надо пробовать))

Уговорили - не буду!

Имея уже вполне обширный опыт взаимодействия с ИИ по своей основной деятельности, также пробовал его для написания прозы. Что я для себя выяснил. Для написания больших романов, на данный момент, он практически не пригоден, с увеличением объема сразу начинают проглядываться явные технические ограничения. В плане интеллектуальных ограничений тоже не все гладко. Удерживать даже несложный, линейный сюжет на протяжении нескольких глав он не способен, теряется связь фактов, событий и тп. Весь плюс от симбиоза с электронными мозгами - использовать его как корректора\редактора, что весьма удобно. Причесывать слог, синтаксис, орфографию, добавлять какие то детали используя его как продвинутую энциклопедию (стоит, конечно же, учитывать, что он зачастую, может сочинять какие то факты которые не соответствуют действительности), все это довольно удобно и экономит время именно на творчество в плане работы над сюжетом. Что насчет сюжета, с этим у ИИ все довольно печально, все настолько шаблонно и банально, просто грусть тоска. Если давать ему задание написать все самому с первых строк вместо живого интереса в голове только одна мысль "какая же ху...та". То есть написать что то небольшое логически связное и даже не отличимое от сочинения школьника он вполне способен, но на взыскательный и даже не очень вкус это будет полный шлак, по сравнению с которым Донцова просто венец художественного таланта.

Ну а что же с литературной похабщиной и развратом? тут вроде не требуется каких то хитросплетений, по крайней мере сюжетных). Вроде все ясно и понятно, все сценарии известны наперечет, добавляй нужный фон и вперед. С одной стороны это так, придумать сюжет для эротической прозы для нонешнего ИИ вполне под силу, с чем то более хардкорным и табуированным придется возиться с локальными моделями с отключенной цензурой, а это заморочки с настройкой и установкой всего этого барахла на компУктер, если автор совсем не технарь, а генетический гуманитарий это может превратиться в муки адские и потерю невосполнимых нервных клеток. Ну и вопрос железа пригодного для нормальных локальных ИИ, оно влетит в довольно приличные суммы. По итогу если затарится приличной Nvidia видеокартой минимум на 16Гб и все установить и настроить, можно получать все те же шаблонные и банальные сюжетные конструкции, на любые, даже сильно табуированные темы, но не вызывающие никакого особого восторга и интереса. Да, они будут вполне логично выстроенными и связными, но предельно банальными и простыми.

По поводу опасений, что засилье ИИ прозы похоронит интерес к данному ресурсу и утопит действительно хорошие авторские работы, к сожаленью это вполне вероятно. То же самое случилось с ресурсами для художников 2D и 3D графики.

Получится, что то более-менее годное с квантованием вполне работает, просто не так шустро, для написания прозы это впрочем не так критично вместо 2 минут будет 10 вот и все...
В приципе и ЖэПэТэ можно заставить писать различные хардкорные табу, если уметь... но это такое... соревноваться с ним кто кого наебет

Ага вместо 2мин 10мин, то есть - 5раз?. 100B Q4 модель будет где-то в 25-50раз медленее, чем 14B Q4 - которая помещается в 16 VRAM а не в 5, и при этом 100B все равно еще сильно туповата, надо больше. Рента железа не так дорого стоит, все таки проще рентовать сервер с видеокартой например 96G VRAM, за такую около доллара в час будет, точно дешевле чем GPU покупать. А 16G точно не сработает, маловато будет.

Я имел ввиду что то более прозаичное и доступное. Qwen 3.8 27B например...

Сомневаюсь что 100B модель на локалке именно в прозе чем то шибко блеснёт. Тот же последний GPT 5.6 Sol на ультре ничего приличного до сих пор выдавить не может.

100B не блеснет, надо больше, но 27B будет тупить вообще мама не горюй. Вообще интересно, при генерации музыки, картинок и видео достигли значительных успехов, а в генерации прозы не очень. Может просто модели общего назначения не очень подходят, нужно специально тренировать для этой цели, а может сам подход - генерация каждого нового слова на основе вероятностей не очень работает. Картинки же не попиксельно генерируют, а всю картинку сразу - может с рассказами надо также.

Вообще интересный тест ИИ как писателя - попросить сгенерировать анекдот или шутку. Результаты удручающие, при этом если спросить, он объясняет в чем суть, но не смешно. Как в том приколе про китайские елочные игрушки.

Например

Программист пришёл к врачу:

— Доктор, у меня бессонница.
— А вы пробовали считать овец?
— Пробовал. На 32767-й овце счётчик переполнился, и теперь у меня -32768 овец.

и это еще не худший вариант.

ЗЫ поинтересовался, работы над diffusion моделями (это которые генерируют весь блок текста целиком, в отличие от основных моделей использующихся сейчас, которые называются AR auto regression и генерируют токены последовательно) для написания текста уже ведутся например Dream 7B и LLaDa 8B. Результаты пока не сильно впечатляют, но теоретически они должны давать гораздо лучший результат для связанного текста - они генерируют весь блок текста целиком и он будет гораздо лучше связан. Во всяком случае теоретически это должно быть лучше. Размеры моделей пока небольшие, может кто-то натренирует модель побольше и тогда бум, будет ситуация как с картинками. А может и не будет.

Что интересно, для генерации музыки используют оба подхода и насколько я понял, явного победителя нет, у каждого подхода есть свои сильные и слабые стороны. В генерации картинок diffusion подход рулит однозначно, в генерации видео практически стандарт.

В общем поглядим.

Dream 7B это эксперимент, насколько я понял пробовать надо с DiffusionGemma-26B-A4B-it и вроде как API для нее на NVidia пока бесплатный. Либо скачать и поставить локально, кстати уже есть децензурированные варианты edwixx/diffusiongemma-26B-A4B-it-HERETIC-Uncensored вроде как автор утверждает, что убрал цензуру. Квантованную версию можно спокойно запустить на 24G, попробую наверное скоро, у меня есть под рукой 3090 с 24G на борту.

....

Браво! Ровно то, о чём я говорил месяц назад. Чтобы ИИ сгенерил полноценно то, что хочет сказать миру автор, ему надо сначала написать весь этот текст и скормить в качестве промпта. И то он на выходе даст этот же текст с сохранением 100% смысла только в идеальном, совершенно умозрительном случае. В реальном - не бывает машин с КПД 100%, он неизбежно что-то потеряет и исказит. Добавить и улучшить - не может никак. Поэтому использовать ИИ для написания осмысленных текстов - бессмысленно.

Другое дело, действительно, генерация картинок, текста и т.п. - это преобразование авторской мысли из текстового промпта в другие форматы. Да, тоже не идеально, тоже с потерями, но приемлемо хотя бы потому, что иных способов выразить свою мысль напрямую в этих форматах у автора, в большинстве случаев, просто нет.

В чем принципиальная разница с картинками, которые так бурно прогрессировали по качеству и достигли в этом плане высокого уровня?
Для картинок контекст 1к токенов это практически максимально полное описание, если датасет модели содержит эти токены (условно говоря модель их "знает") вы с большой долей вероятности получите то что нужно.
На заре первых генераторов картинок у них было сильное ограничение на количество токенов (у SD 1.5 что то вроде 72 токена), вы могли усираться и писать портянки в промптах но из него бралось только 72 токена (а один токен не равно одно слово, одно слово может разбиваться на несколько токенов), последние модели принимают несколько тысяч токенов. То есть в плане картинок есть прямая связь между описанием и результатом. По факту вы почти всегда получите то что просили, могут быть ньюансы, но это решается вариациями промпта и тестовыми генерациями.
С текстом ситуация принципиально другая, пользователь хочет получить что то конкретное. но с ньюансами, которые он сам еще себе толком не представляет. Эти самые ньюансы должны вызвать в нем или у его читателей соответствующую эмоциональную, а в случае порно рассказа еще и физиологическую реакцию. По скольку принцип действия примерно схожий как и с картинками, где модель ищет ответ в самом запросе разлагая его на токены а по этим токенам собирает веса (выбирает правильный по ее мнению ответ). Поэтому всегда получается что то усредненное и примитивное, с натыканными не по делу высокопарными оборотами, избыточно резкими и прямолинейными диалогами, шаблонными характерами персонажей. Поскольку у модели нет собственной эмоциональной оценки, а также жизненного опыта, в ее критериях оценки есть сугубо технический\статистический подход.. Различные "дообученные" модели в какой то степени могут решить задачу под которую они заточены, но вместо одной шаблонности вы лишь получите другую.

ИИ-говно или нет, но на площадках коммерческого самиздата ИИ-книги давно в топе. Еще раз, речь идет о том, что люди платят за это уже больше, чем "кожаным мешкам".

А если учесть, что платежеспособность и читательское внимание вообще - вещь конечная.... ИИ успешно вытесняет как раз средних и молодых авторов из коммерческого самиздата.

будущее, в котором ожидалось, что роботы будут делать рутину, а человек творить, не на=ступило. стало ровно наоборот.

А механизм попадания в топы давно известен, и везде работает примерно одинаково. Это, условно, обычный конвеер, кто нишу завалит своим продуктом тот и в топе.

То что ии-шное говно в топе, то это не делает его шедевром. На данный момент у ИИ есть нерешаемые генетические проебы в архитектуре. Они торчат из любого художественного текста который оно пытается из себя выдавить если давать ему написать все самому.

Мне не понятно другое, почему так трудно отгородить ИИ-шников от кожанных? В чем проблема? Почему платформы на это не хотят идти?