Ollama AI Discord Bot

Привет!

Я помогу тебе создать бота на Python с использованием библиотеки Disnake, который будет взаимодействовать с локальными моделями Ollama AI через Discord сервер. Разберём шаг за шагом, как реализовать требуемую функциональность.

Шаг 1: Установка необходимых библиотек

Сначала убедись, что у тебя установлены все необходимые библиотеки. Для этого выполни следующие команды:

bash
pip install disnake
pip install aiohttp

Также убедись, что у тебя установлен и настроен Ollama на локальном сервере.

Шаг 2: Структура проекта

Рекомендуется организовать проект следующим образом:

text
ollama_bot/
│
├── bot.py
├── config.json
├── models.json
└── requirements.txt

• bot.py — основной файл бота.
• config.json — файл с конфигурацией бота (токен, ID каналов и т.д.).
• models.json — файл с информацией о моделях.
• requirements.txt — список зависимостей проекта.

Шаг 3: Конфигурация

config.json

Создай файл config.json и добавь в него следующую структуру:

json
{
  "token": "YOUR_DISCORD_BOT_TOKEN",
  "guild_id": YOUR_GUILD_ID,
  "channels": {
    "main": {
      "home": YOUR_HOME_CHANNEL_ID,
      "models": YOUR_MODELS_CHANNEL_ID,
      "settings": YOUR_SETTINGS_CHANNEL_ID
    },
    "chat": YOUR_CHAT_CATEGORY_ID
  }
}

Замените YOUR_DISCORD_BOT_TOKEN, YOUR_GUILD_ID, YOUR_HOME_CHANNEL_ID, YOUR_MODELS_CHANNEL_ID, YOUR_SETTINGS_CHANNEL_ID и YOUR_CHAT_CATEGORY_ID на соответствующие значения из вашего Discord сервера.

models.json

Сохрани предоставленный тобой пример в файл models.json. Этот файл будет содержать информацию о доступных моделях.

Шаг 4: Реализация бота

Импорт необходимых модулей и загрузка конфигурации

python
import disnake
from disnake.ext import commands
import json
import aiohttp
import asyncio

# Загрузка конфигурации
with open('config.json', 'r', encoding='utf-8') as f:
    config = json.load(f)

with open('models.json', 'r', encoding='utf-8') as f:
    models_data = json.load(f)

intents = disnake.Intents.default()
intents.messages = True
intents.guilds = True
intents.message_content = True

bot = commands.Bot(command_prefix='!', intents=intents)

Хранение настроек

Для хранения глобальных и локальных настроек модели можно использовать простой JSON файл или базу данных. Для примера используем JSON.

python
SETTINGS_FILE = 'settings.json'

# Инициализация файла настроек
import os

if not os.path.exists(SETTINGS_FILE):
    with open(SETTINGS_FILE, 'w', encoding='utf-8') as f:
        json.dump({"global_model": None, "channel_models": {}}, f, ensure_ascii=False, indent=4)

def load_settings():
    with open(SETTINGS_FILE, 'r', encoding='utf-8') as f:
        return json.load(f)

def save_settings(settings):
    with open(SETTINGS_FILE, 'w', encoding='utf-8') as f:
        json.dump(settings, f, ensure_ascii=False, indent=4)

Команды для настройки модели

Добавим команды для установки глобальной модели и модели для конкретного канала.

python
@bot.slash_command(description="Установить глобальную модель для всех чатов")
async def set_global_model(inter: disnake.ApplicationCommandInteraction, model_name: str):
    settings = load_settings()
    if model_name not in [model['author']['name'] for model in models_data['embeds']]:
        await inter.response.send_message("Модель не найдена.", ephemeral=True)
        return
    settings['global_model'] = model_name
    save_settings(settings)
    await inter.response.send_message(f"Глобальная модель установлена на `{model_name}`.", ephemeral=True)

@bot.slash_command(description="Установить модель для текущего канала")
async def set_channel_model(inter: disnake.ApplicationCommandInteraction, model_name: str):
    settings = load_settings()
    if model_name not in [model['author']['name'] for model in models_data['embeds']]:
        await inter.response.send_message("Модель не найдена.", ephemeral=True)
        return
    settings['channel_models'][str(inter.channel.id)] = model_name
    save_settings(settings)
    await inter.response.send_message(f"Модель для канала установлена на `{model_name}`.", ephemeral=True)

Обработка сообщений в чатах

Бот должен перехватывать сообщения в каналах категории chat, отправлять их модели Ollama и отвечать через вебхук.

python
@bot.event
async def on_message(message):
    if message.author.bot:
        return

    guild = message.guild
    chat_category_id = config['channels']['chat']
    
    if message.channel.category_id != chat_category_id:
        return  # Не в категории chat

    settings = load_settings()

    # Определение модели
    model_name = settings['channel_models'].get(str(message.channel.id), settings.get('global_model'))

    if not model_name:
        await message.channel.send("Не установлена модель для этого канала. Используйте команду настройки.")
        return

    # Получение информации о модели
    model_info = next((model for model in models_data['embeds'] if model['author']['name'] == model_name), None)

    if not model_info:
        await message.channel.send("Выбранная модель не найдена.")
        return

    # Отправка сообщения в Ollama и получение ответа
    user_input = message.content
    ollama_response = await get_ollama_response(model_info['footer']['text'], user_input)  # Передаём Ollama ID

    if not ollama_response:
        await message.channel.send("Ошибка при получении ответа от модели.")
        return

    # Создание или получение вебхука для канала
    webhook = await get_or_create_webhook(message.channel, model_info)

    # Отправка ответа через вебхук
    await webhook.send(
        content=ollama_response,
        username=model_info['author']['name'],
        avatar_url=model_info['author']['icon_url']
    )

async def get_or_create_webhook(channel, model_info):
    webhooks = await channel.webhooks()
    webhook = None
    for wh in webhooks:
        if wh.name == model_info['author']['name']:
            webhook = wh
            break
    if not webhook:
        webhook = await channel.create_webhook(name=model_info['author']['name'], avatar=bytes(await aiohttp.ClientSession().get(model_info['author']['icon_url']).read()))
    return webhook

Функция взаимодействия с Ollama

Предполагается, что Ollama предоставляет API для взаимодействия. Если нет, можно использовать вызов командной строки.

python
async def get_ollama_response(ollama_id, user_input):
    # Пример использования HTTP API Ollama
    # Необходимо заменить URL и параметры на соответствующие вашему серверу Ollama
    url = f"http://localhost:11434/v1/models/{ollama_id}/generate"
    payload = {
        "prompt": user_input,
        "max_tokens": 150
    }
    headers = {
        "Content-Type": "application/json"
    }
    async with aiohttp.ClientSession() as session:
        try:
            async with session.post(url, json=payload, headers=headers) as resp:
                if resp.status == 200:
                    data = await resp.json()
                    return data.get('response')  # Зависит от структуры ответа Ollama
                else:
                    print(f"Ошибка Ollama: {resp.status}")
                    return None
        except Exception as e:
            print(f"Исключение при обращении к Ollama: {e}")
            return None

Примечание: Необходимо заменить URL и структуру запроса/ответа на соответствующие вашему серверу Ollama.

Команда для создания каналов

В канале home можно добавить команды для создания новых чат-каналов.

python
@bot.slash_command(description="Создать новый чат-канал")
@commands.has_permissions(manage_channels=True)
async def create_chat(inter: disnake.ApplicationCommandInteraction, channel_name: str):
    guild = inter.guild
    chat_category = guild.get_channel(config['channels']['chat'])
    if not chat_category:
        await inter.response.send_message("Категория chat не найдена.", ephemeral=True)
        return

    existing = disnake.utils.get(guild.channels, name=channel_name, category=chat_category)
    if existing:
        await inter.response.send_message("Канал с таким именем уже существует.", ephemeral=True)
        return

    new_channel = await guild.create_text_channel(channel_name, category=chat_category)
    await inter.response.send_message(f"Канал `{new_channel.name}` создан.", ephemeral=True)

Обработка команды /models для отображения моделей

В канале models бот будет публиковать сообщение с доступными моделями. Можно настроить периодическое обновление или команду для обновления.

python
@bot.slash_command(description="Отобразить список доступных моделей")
@commands.has_permissions(manage_channels=True)
async def list_models(inter: disnake.ApplicationCommandInteraction):
    models_embed = models_data  # Предполагается, что models.json содержит нужную структуру
    await inter.response.send_message(
        embed=disnake.Embed.from_dict(models_embed),
        ephemeral=True
    )

Шаг 5: Запуск бота

В конце файла bot.py добавь:

python
@bot.event
async def on_ready():
    print(f"Бот {bot.user} готов к работе!")

bot.run(config['token'])

Дополнительные рекомендации

1. Обработка ошибок: Добавь обработку возможных ошибок при взаимодействии с API Ollama и Discord.

2. Логи: Включи логирование для упрощения отладки.

3. Безопасность: Убедись, что команды настройки доступны только авторизованным пользователям.

4. Оптимизация: Для больших проектов рекомендуется использовать базу данных (например, SQLite или PostgreSQL) для хранения настроек.

5. Асинхронность: Убедись, что все взаимодействия с сетью выполняются асинхронно, чтобы не блокировать бот.

Пример файла models.json

Убедись, что models.json соответствует следующей структуре:

json
{
  "content": "## Доступные модели",
  "embeds": [
    {
      "title": "Описание",
      "description": "Оптимизированная архитектура для генеративных задач...",
      "color": 16445723,
      "fields": [
        {
          "name": "Тэги",
          "value": "`Генерация`, `Оптимизация`, `MistralAI`",
          "inline": true
        },
        {
          "name": "Версии",
          "value": "`8b`",
          "inline": true
        }
      ],
      "author": {
        "name": "Mistral",
        "url": "https://ollama.com/library/mistral",
        "icon_url": "https://custom.typingmind.com/assets/models/mistralai.png"
      },
      "footer": {
        "text": "Ollama ID: f974a74358d6"
      }
    },
    // Другие модели...
  ],
  "username": "System",
  "avatar_url": "https://static10.tgstat.ru/channels/_0/f8/f8ace5cf4ae021370a88c7bf21a168da.jpg",
  "attachments": []
}

Заключение

Этот пример предоставляет базовую структуру и функциональность для создания бота, который взаимодействует с локальными моделями Ollama AI через Discord. В зависимости от специфики API Ollama и дополнительных требований, возможно, потребуется внести изменения и улучшения. Удачи в разработке!

Привет!

Извиняюсь за возникшие проблемы. Давай разберём каждую из них по порядку и внесём необходимые исправления.

Проблема 1: Ошибка при выполнении команды /list_models

Ошибка:

text
disnake.errors.HTTPException: 400 Bad Request (error code: 50035): Invalid Form Body
In data.embeds.0.description: This field is required

Причина:

Ошибка возникает из-за некорректной структуры передаваемых данных в embeds. Поле description является обязательным для каждого embed'а, и, вероятно, передаваемый JSON не соответствует ожидаемой структуре.

Решение:

Убедимся, что каждый embed содержит все необходимые поля, особенно description. Также убедимся, что models.json правильно загружается и передаётся в формате, подходящем для создания disnake.Embed.

Исправленный код для команды /list_models:

python
@bot.slash_command(description="Отобразить список доступных моделей")
@commands.has_permissions(manage_channels=True)
async def list_models(inter: disnake.ApplicationCommandInteraction):
    try:
        embeds = []
        for model in models_data['embeds']:
            embed = disnake.Embed(
                title=model.get('title', 'Без названия'),
                description=model.get('description', 'Описание отсутствует'),
                color=model.get('color', 0xFFFFFF)
            )
            for field in model.get('fields', []):
                embed.add_field(
                    name=field.get('name', 'Без названия'),
                    value=field.get('value', ''),
                    inline=field.get('inline', False)
                )
            author = model.get('author', {})
            if author:
                embed.set_author(
                    name=author.get('name', ''),
                    url=author.get('url', ''),
                    icon_url=author.get('icon_url', '')
                )
            footer = model.get('footer', {})
            if footer:
                embed.set_footer(text=footer.get('text', ''))
            embeds.append(embed)
        
        # Отправляем все embeds
        for embed in embeds:
            await inter.response.send_message(embed=embed, ephemeral=True)
    except Exception as e:
        await inter.response.send_message(f"Произошла ошибка при отображении моделей: {e}", ephemeral=True)

Объяснение изменений:

1. Создание disnake.Embed из данных: Вместо передачи словаря напрямую, мы создаём объекты disnake.Embed, заполняя обязательные поля.
2. Проверка наличия обязательных полей: Убедились, что description всегда присутствует.
3. Отправка нескольких сообщений: Если моделей много, можно отправлять их по одному. Однако, если их количество велико, стоит рассмотреть пагинацию или отправку в одно сообщение с несколькими embed'ами (Discord ограничивает до 10 embed'ов на сообщение).

Альтернативный подход: Отправка всех embed'ов в одном сообщении

Если количество моделей не превышает 10, можно отправить все embed'ы в одном сообщении:

python
@bot.slash_command(description="Отобразить список доступных моделей")
@commands.has_permissions(manage_channels=True)
async def list_models(inter: disnake.ApplicationCommandInteraction):
    try:
        embeds = []
        for model in models_data['embeds']:
            embed = disnake.Embed(
                title=model.get('title', 'Без названия'),
                description=model.get('description', 'Описание отсутствует'),
                color=model.get('color', 0xFFFFFF)
            )
            for field in model.get('fields', []):
                embed.add_field(
                    name=field.get('name', 'Без названия'),
                    value=field.get('value', ''),
                    inline=field.get('inline', False)
                )
            author = model.get('author', {})
            if author:
                embed.set_author(
                    name=author.get('name', ''),
                    url=author.get('url', ''),
                    icon_url=author.get('icon_url', '')
                )
            footer = model.get('footer', {})
            if footer:
                embed.set_footer(text=footer.get('text', ''))
            embeds.append(embed)
        
        await inter.response.send_message(embeds=embeds, ephemeral=True)
    except Exception as e:
        await inter.response.send_message(f"Произошла ошибка при отображении моделей: {e}", ephemeral=True)

Примечание: Discord позволяет отправлять до 10 embed'ов в одном сообщении. Если у вас больше моделей, нужно реализовать пагинацию или разбивать их на несколько сообщений.

Проблема 2: Ошибка при обращении к Ollama API

Ошибка:

text
Ошибка Ollama: 404
[GIN] 2025/01/10 - 21:46:26 | 404 | 0s | 127.0.0.1 | POST "/v1/models/Ollama ID: f974a74358d6/generate"

Причина:

URL запроса к Ollama API сформирован неправильно. Вместо чистого ID модели используется строка "Ollama ID: f974a74358d6", что приводит к неверному пути и, как следствие, ошибке 404.

Решение:

Необходимо извлечь только ID модели из поля footer.text, убрав префикс "Ollama ID: ".

Исправленный код для функции get_ollama_response:

python
async def get_ollama_response(ollama_footer_text, user_input):
    # Извлекаем только ID модели
    prefix = "Ollama ID: "
    if not ollama_footer_text.startswith(prefix):
        print(f"Неверный формат Ollama ID: {ollama_footer_text}")
        return None
    ollama_id = ollama_footer_text[len(prefix):].strip()
    
    # Формируем правильный URL
    url = f"http://localhost:11434/v1/models/{ollama_id}/generate"
    payload = {
        "prompt": user_input,
        "max_tokens": 150
    }
    headers = {
        "Content-Type": "application/json"
    }
    async with aiohttp.ClientSession() as session:
        try:
            async with session.post(url, json=payload, headers=headers) as resp:
                if resp.status == 200:
                    data = await resp.json()
                    return data.get('response')  # Проверьте структуру ответа Ollama
                else:
                    print(f"Ошибка Ollama: {resp.status}")
                    return None
        except Exception as e:
            print(f"Исключение при обращении к Ollama: {e}")
            return None

Объяснение изменений:

1. Извлечение чистого ID модели: Удаляем префикс "Ollama ID: " из footer.text, чтобы получить только ID.
2. Проверка формата: Добавили проверку, что footer.text начинается с ожидаемого префикса.
3. Формирование правильного URL: Используем чистый ollama_id для формирования URL.

Проблема 3: Отсутствие предложений при выборе модели

Описание:

При выполнении команд /set_global_model и /set_channel_model пользователь должен вручную вводить имя модели. Желательно предоставить автодополнение или выбор из доступных моделей.

Решение:

Использовать выбор из списка (choices) в командах slash. Для этого необходимо динамически генерировать список доступных моделей и предоставить их как варианты выбора.

Обновлённые команды с выбором моделей:

python
from disnake import Option, OptionType

def get_model_choices():
    return [
        disnake.OptionChoice(name=model['author']['name'], value=model['author']['name'])
        for model in models_data['embeds']
    ]

@bot.slash_command(description="Установить глобальную модель для всех чатов")
async def set_global_model(
    inter: disnake.ApplicationCommandInteraction,
    model_name: str = Option(
        name="model_name",
        description="Выберите модель из списка",
        type=OptionType.string,
        required=True,
        choices=get_model_choices()
    )
):
    settings = load_settings()
    if model_name not in [model['author']['name'] for model in models_data['embeds']]:
        await inter.response.send_message("Модель не найдена.", ephemeral=True)
        return
    settings['global_model'] = model_name
    save_settings(settings)
    await inter.response.send_message(f"Глобальная модель установлена на `{model_name}`.", ephemeral=True)

@bot.slash_command(description="Установить модель для текущего канала")
async def set_channel_model(
    inter: disnake.ApplicationCommandInteraction,
    model_name: str = Option(
        name="model_name",
        description="Выберите модель из списка",
        type=OptionType.string,
        required=True,
        choices=get_model_choices()
    )
):
    settings = load_settings()
    if model_name not in [model['author']['name'] for model in models_data['embeds']]:
        await inter.response.send_message("Модель не найдена.", ephemeral=True)
        return
    settings['channel_models'][str(inter.channel.id)] = model_name
    save_settings(settings)
    await inter.response.send_message(f"Модель для канала установлена на `{model_name}`.", ephemeral=True)

Объяснение изменений:

1. Функция get_model_choices: Создаёт список OptionChoice из доступных моделей.
2. Использование Option с choices: В командах добавлены параметры с фиксированными вариантами выбора, что позволяет пользователю выбирать модель из предложенного списка, а не вводить её вручную.

Динамическое обновление choices:

Однако, стоит отметить, что в текущей версии Disnake (как и в Discord API) список choices ограничен до 25 вариантов и должен быть статическим при запуске бота. Если модели могут динамически меняться, лучше обновлять choices при запуске или использовать подход с автодополнением (autocomplete).

Пример с автодополнением:

python
@bot.slash_command(description="Установить глобальную модель для всех чатов")
async def set_global_model(
    inter: disnake.ApplicationCommandInteraction,
    model_name: str
):
    # Логика установки модели остается такой же
    settings = load_settings()
    if model_name not in [model['author']['name'] for model in models_data['embeds']]:
        await inter.response.send_message("Модель не найдена.", ephemeral=True)
        return
    settings['global_model'] = model_name
    save_settings(settings)
    await inter.response.send_message(f"Глобальная модель установлена на `{model_name}`.", ephemeral=True)

@set_global_model.autocomplete("model_name")
async def set_global_model_autocomplete(
    inter: disnake.AutocompleteInteraction,
    current: str
):
    choices = [
        disnake.OptionChoice(name=model['author']['name'], value=model['author']['name'])
        for model in models_data['embeds']
        if current.lower() in model['author']['name'].lower()
    ]
    await inter.response.send_autocomplete(choices[:25])

# Аналогично для set_channel_model
@bot.slash_command(description="Установить модель для текущего канала")
async def set_channel_model(
    inter: disnake.ApplicationCommandInteraction,
    model_name: str
):
    settings = load_settings()
    if model_name not in [model['author']['name'] for model in models_data['embeds']]:
        await inter.response.send_message("Модель не найдена.", ephemeral=True)
        return
    settings['channel_models'][str(inter.channel.id)] = model_name
    save_settings(settings)
    await inter.response.send_message(f"Модель для канала установлена на `{model_name}`.", ephemeral=True)

@set_channel_model.autocomplete("model_name")
async def set_channel_model_autocomplete(
    inter: disnake.AutocompleteInteraction,
    current: str
):
    choices = [
        disnake.OptionChoice(name=model['author']['name'], value=model['author']['name'])
        for model in models_data['embeds']
        if current.lower() in model['author']['name'].lower()
    ]
    await inter.response.send_autocomplete(choices[:25])

Объяснение:

1. Автодополнение: Используем декоратор .autocomplete для динамического предоставления вариантов на основе ввода пользователя.
2. Фильтрация вариантов: Отображаются только те модели, которые содержат введённый текст.

Дополнительные рекомендации

1. Логирование: Добавь логирование для облегчения отладки. Можно использовать встроенный модуль logging:

   python
   import logging
   
   logging.basicConfig(level=logging.INFO)
   logger = logging.getLogger('ollama_bot')
   
   # Используй logger вместо print
   logger.info("Бот готов к работе!")
   logger.error(f"Ошибка Ollama: {resp.status}")

2. Обработка исключений: Улучши обработку исключений везде, где это необходимо, чтобы бот не падал при возникновении ошибок.

3. Валидация данных: Убедись, что данные из models.json корректны и содержат все необходимые поля.

4. Оптимизация вебхуков: В функции get_or_create_webhook можно оптимизировать получение аватара вебхука, используя кэширование или обработку ошибок.

Исправленный код для get_or_create_webhook:

python
async def get_or_create_webhook(channel, model_info):
    webhooks = await channel.webhooks()
    webhook = disnake.utils.get(webhooks, name=model_info['author']['name'])
    if webhook:
        return webhook
    # Получение изображения профиля
    try:
        async with aiohttp.ClientSession() as session:
            async with session.get(model_info['author']['icon_url']) as resp:
                if resp.status != 200:
                    print(f"Не удалось получить иконку модели: {resp.status}")
                    avatar = None
                else:
                    avatar = await resp.read()
    except Exception as e:
        print(f"Ошибка при получении иконки модели: {e}")
        avatar = None
    # Создание вебхука
    webhook = await channel.create_webhook(
        name=model_info['author']['name'],
        avatar=avatar
    )
    return webhook

Объяснение изменений:

1. Использование disnake.utils.get: Упрощает поиск вебхука по имени.
2. Обработка ошибок при получении аватара: Если изображение не может быть получено, вебхук создаётся без аватара.

Итоговый исправленный код

Для наглядности приведу обновлённые части кода с учётом всех исправлений.

bot.py

python
import disnake
from disnake.ext import commands
import json
import aiohttp
import asyncio
import os
import logging

# Настройка логирования
logging.basicConfig(level=logging.INFO)
logger = logging.getLogger('ollama_bot')

# Загрузка конфигурации
with open('config.json', 'r', encoding='utf-8') as f:
    config = json.load(f)

with open('models.json', 'r', encoding='utf-8') as f:
    models_data = json.load(f)

intents = disnake.Intents.default()
intents.messages = True
intents.guilds = True
intents.message_content = True

bot = commands.Bot(command_prefix='!', intents=intents)

SETTINGS_FILE = 'settings.json'

# Инициализация файла настроек
if not os.path.exists(SETTINGS_FILE):
    with open(SETTINGS_FILE, 'w', encoding='utf-8') as f:
        json.dump({"global_model": None, "channel_models": {}}, f, ensure_ascii=False, indent=4)

def load_settings():
    with open(SETTINGS_FILE, 'r', encoding='utf-8') as f:
        return json.load(f)

def save_settings(settings):
    with open(SETTINGS_FILE, 'w', encoding='utf-8') as f:
        json.dump(settings, f, ensure_ascii=False, indent=4)

def get_model_choices():
    return [
        disnake.OptionChoice(name=model['author']['name'], value=model['author']['name'])
        for model in models_data['embeds']
    ]

@bot.slash_command(description="Установить глобальную модель для всех чатов")
async def set_global_model(
    inter: disnake.ApplicationCommandInteraction,
    model_name: str
):
    settings = load_settings()
    if model_name not in [model['author']['name'] for model in models_data['embeds']]:
        await inter.response.send_message("Модель не найдена.", ephemeral=True)
        return
    settings['global_model'] = model_name
    save_settings(settings)
    await inter.response.send_message(f"Глобальная модель установлена на `{model_name}`.", ephemeral=True)

@set_global_model.autocomplete("model_name")
async def set_global_model_autocomplete(
    inter: disnake.AutocompleteInteraction,
    current: str
):
    choices = [
        disnake.OptionChoice(name=model['author']['name'], value=model['author']['name'])
        for model in models_data['embeds']
        if current.lower() in model['author']['name'].lower()
    ]
    await inter.response.send_autocomplete(choices[:25])

@bot.slash_command(description="Установить модель для текущего канала")
async def set_channel_model(
    inter: disnake.ApplicationCommandInteraction,
    model_name: str
):
    settings = load_settings()
    if model_name not in [model['author']['name'] for model in models_data['embeds']]:
        await inter.response.send_message("Модель не найдена.", ephemeral=True)
        return
    settings['channel_models'][str(inter.channel.id)] = model_name
    save_settings(settings)
    await inter.response.send_message(f"Модель для канала установлена на `{model_name}`.", ephemeral=True)

@set_channel_model.autocomplete("model_name")
async def set_channel_model_autocomplete(
    inter: disnake.AutocompleteInteraction,
    current: str
):
    choices = [
        disnake.OptionChoice(name=model['author']['name'], value=model['author']['name'])
        for model in models_data['embeds']
        if current.lower() in model['author']['name'].lower()
    ]
    await inter.response.send_autocomplete(choices[:25])

@bot.slash_command(description="Отобразить список доступных моделей")
@commands.has_permissions(manage_channels=True)
async def list_models(inter: disnake.ApplicationCommandInteraction):
    try:
        embeds = []
        for model in models_data['embeds']:
            embed = disnake.Embed(
                title=model.get('title', 'Без названия'),
                description=model.get('description', 'Описание отсутствует'),
                color=model.get('color', 0xFFFFFF)
            )
            for field in model.get('fields', []):
                embed.add_field(
                    name=field.get('name', 'Без названия'),
                    value=field.get('value', ''),
                    inline=field.get('inline', False)
                )
            author = model.get('author', {})
            if author:
                embed.set_author(
                    name=author.get('name', ''),
                    url=author.get('url', ''),
                    icon_url=author.get('icon_url', '')
                )
            footer = model.get('footer', {})
            if footer:
                embed.set_footer(text=footer.get('text', ''))
            embeds.append(embed)
        
        if len(embeds) <= 10:
            await inter.response.send_message(embeds=embeds, ephemeral=True)
        else:
            # Если моделей больше 10, отправляем их по частям
            for embed in embeds:
                await inter.followup.send(embed=embed, ephemeral=True)
    except Exception as e:
        logger.error(f"Ошибка в list_models: {e}")
        await inter.response.send_message(f"Произошла ошибка при отображении моделей: {e}", ephemeral=True)

@bot.slash_command(description="Создать новый чат-канал")
@commands.has_permissions(manage_channels=True)
async def create_chat(inter: disnake.ApplicationCommandInteraction, channel_name: str):
    guild = inter.guild
    chat_category = guild.get_channel(config['channels']['chat'])
    if not chat_category:
        await inter.response.send_message("Категория chat не найдена.", ephemeral=True)
        return

    existing = disnake.utils.get(guild.channels, name=channel_name, category=chat_category)
    if existing:
        await inter.response.send_message("Канал с таким именем уже существует.", ephemeral=True)
        return

    new_channel = await guild.create_text_channel(channel_name, category=chat_category)
    await inter.response.send_message(f"Канал `{new_channel.name}` создан.", ephemeral=True)

@bot.event
async def on_message(message):
    if message.author.bot:
        return

    guild = message.guild
    chat_category_id = config['channels']['chat']
    
    if message.channel.category_id != chat_category_id:
        return  # Не в категории chat

    settings = load_settings()

    # Определение модели
    model_name = settings['channel_models'].get(str(message.channel.id), settings.get('global_model'))

    if not model_name:
        await message.channel.send("Не установлена модель для этого канала. Используйте команду настройки.")
        return

    # Получение информации о модели
    model_info = next((model for model in models_data['embeds'] if model['author']['name'] == model_name), None)

    if not model_info:
        await message.channel.send("Выбранная модель не найдена.")
        return

    # Отправка сообщения в Ollama и получение ответа
    user_input = message.content
    ollama_response = await get_ollama_response(model_info['footer']['text'], user_input)  # Передаём Ollama ID

    if not ollama_response:
        await message.channel.send("Ошибка при получении ответа от модели.")
        return

    # Создание или получение вебхука для канала
    webhook = await get_or_create_webhook(message.channel, model_info)

    # Отправка ответа через вебхук
    await webhook.send(
        content=ollama_response,
        username=model_info['author']['name'],
        avatar_url=model_info['author']['icon_url']
    )

async def get_ollama_response(ollama_footer_text, user_input):
    # Извлекаем только ID модели
    prefix = "Ollama ID: "
    if not ollama_footer_text.startswith(prefix):
        logger.error(f"Неверный формат Ollama ID: {ollama_footer_text}")
        return None
    ollama_id = ollama_footer_text[len(prefix):].strip()
    
    # Формируем правильный URL
    url = f"http://localhost:11434/v1/models/{ollama_id}/generate"
    payload = {
        "prompt": user_input,
        "max_tokens": 150
    }
    headers = {
        "Content-Type": "application/json"
    }
    async with aiohttp.ClientSession() as session:
        try:
            async with session.post(url, json=payload, headers=headers) as resp:
                if resp.status == 200:
                    data = await resp.json()
                    return data.get('response')  # Проверьте структуру ответа Ollama
                else:
                    logger.error(f"Ошибка Ollama: {resp.status}")
                    return None
        except Exception as e:
            logger.error(f"Исключение при обращении к Ollama: {e}")
            return None

async def get_or_create_webhook(channel, model_info):
    webhooks = await channel.webhooks()
    webhook = disnake.utils.get(webhooks, name=model_info['author']['name'])
    if webhook:
        return webhook
    # Получение изображения профиля
    try:
        async with aiohttp.ClientSession() as session:
            async with session.get(model_info['author']['icon_url']) as resp:
                if resp.status != 200:
                    logger.error(f"Не удалось получить иконку модели: {resp.status}")
                    avatar = None
                else:
                    avatar = await resp.read()
    except Exception as e:
        logger.error(f"Ошибка при получении иконки модели: {e}")
        avatar = None
    # Создание вебхука
    webhook = await channel.create_webhook(
        name=model_info['author']['name'],
        avatar=avatar
    )
    return webhook

@bot.event
async def on_ready():
    logger.info(f"Бот {bot.user} готов к работе!")

bot.run(config['token'])

Объяснение:

1. Логирование: Добавлено для облегчения отладки.
2. Исправленные команды с автодополнением: Пользователь теперь может выбирать модели из предложенного списка.
3. Исправленная функция get_ollama_response: Теперь извлекает чистый ID модели.
4. Исправленная команда list_models: Правильно создаёт и отправляет embed'ы.
5. Улучшенная функция get_or_create_webhook: Обрабатывает ошибки при получении аватара и упрощает поиск вебхука.

Дополнительные шаги

1. Проверь структуру models.json: Убедись, что все необходимые поля присутствуют и имеют правильный формат. Пример структуры:

   json
   {
     "content": "## Доступные модели",
     "embeds": [
       {
         "title": "Описание",
         "description": "Оптимизированная архитектура для генеративных задач...",
         "color": 16445723,
         "fields": [
           {
             "name": "Тэги",
             "value": "`Генерация`, `Оптимизация`, `MistralAI`",
             "inline": true
           },
           {
             "name": "Версии",
             "value": "`8b`",
             "inline": true
           }
         ],
         "author": {
           "name": "Mistral",
           "url": "https://ollama.com/library/mistral",
           "icon_url": "https://custom.typingmind.com/assets/models/mistralai.png"
         },
         "footer": {
           "text": "Ollama ID: f974a74358d6"
         }
       },
       // Другие модели...
     ],
     "username": "System",
     "avatar_url": "https://static10.tgstat.ru/channels/_0/f8/f8ace5cf4ae021370a88c7bf21a168da.jpg",
     "attachments": []
   }

2. Проверь доступность Ollama API: Убедись, что Ollama работает на localhost:11434 и API доступен по указанному пути. Возможно, стоит проверить URL и порт, если они отличаются.

3. Проверь структуру ответа Ollama: Убедись, что поле response существует в JSON-ответе. Если структура другая, скорректируй доступ к данным в функции get_ollama_response.

4. Тестирование: После внесённых изменений перезапусти бота и протестируй команды ещё раз. Убедись, что команды работают корректно и ошибки устранены.

5. Управление зависимостями: Убедись, что все необходимые библиотеки указаны в requirements.txt.

   txt
   disnake
   aiohttp

Заключение

Теперь бот должен корректно обрабатывать команды, предоставлять пользователю выбор моделей из доступных и правильно взаимодействовать с Ollama API. Если возникнут дополнительные вопросы или проблемы, не стесняйся обращаться за помощью. Удачи в разработке!

Привет!

Давайте проверим ваш models.json файл на корректность и соответствие ожидаемой структуре. Также предложу несколько дополнительных рекомендаций, чтобы убедиться, что всё работает правильно.

Проверка структуры models.json

На первый взгляд, предоставленный вами JSON выглядит корректным и соответствует ожидаемой структуре. Каждый объект в массиве embeds содержит необходимые поля:

• title
• description
• color
• fields (массив с объектами, содержащими name, value и inline)
• author (с name, url и icon_url)
• footer (с text)

Вот ваш JSON для наглядности:

json
{
  "content": "## Доступные модели",
  "embeds": [
    {
      "title": "Описание",
      "description": "Оптимизированная архитектура для генеративных задач. Обеспечивает высокую производительность и эффективность при меньших вычислительных ресурсах. Часто используется для диалогов, генерации текста и программного кода.",
      "color": 16445723,
      "fields": [
        {
          "name": "Тэги",
          "value": "`Генерация`, `Оптимизация`, `MistralAI`",
          "inline": true
        },
        {
          "name": "Версии",
          "value": "`8b`",
          "inline": true
        }
      ],
      "author": {
        "name": "Mistral",
        "url": "https://ollama.com/library/mistral",
        "icon_url": "https://custom.typingmind.com/assets/models/mistralai.png"
      },
      "footer": {
        "text": "Ollama ID: f974a74358d6"
      }
    },
    {
      "title": "Описание",
      "description": "Мощная языковая модель второго поколения с акцентом на когнитивное понимание текста. Применяется для сложных логических задач, обработки естественного языка и построения интеллектуальных систем.",
      "color": 16445723,
      "fields": [
        {
          "name": "Тэги",
          "value": "`Когнитивный`, `Логика`, `GemmaAI`",
          "inline": true
        },
        {
          "name": "Версии",
          "value": "`9b`",
          "inline": true
        }
      ],
      "author": {
        "name": "Gemma 2",
        "url": "https://ollama.com/library/gemma2",
        "icon_url": "https://custom.typingmind.com/assets/models/gemma.jpg"
      },
      "footer": {
        "text": "Ollama ID: ff02c3702f32"
      }
    },
    {
      "title": "Описание",
      "description": "Предыдущая версия LLaMA с высокой точностью в текстовых задачах. Хорошо подходит для обработки естественного языка и генерации текста. Обладает улучшенной производительностью по сравнению с ранними версиями.",
      "color": 16445723,
      "fields": [
        {
          "name": "Тэги",
          "value": "`НЛП`, `Генерация`, `Meta`",
          "inline": true
        },
        {
          "name": "Версии",
          "value": "`8b`",
          "inline": true
        }
      ],
      "author": {
        "name": "LLaMA 3.1",
        "url": "https://ollama.com/library/llama3.1",
        "icon_url": "https://custom.typingmind.com/assets/models/llama.png"
      },
      "footer": {
        "text": "Ollama ID: 46e0c10c039e"
      }
    },
    {
      "title": "Описание",
      "description": "Модель с поддержкой работы с изображениями и текстом. Обеспечивает мультизадачность, объединяя обработку визуальных данных и текста, используется в задачах, связанных с генерацией описаний, анализом изображений и мультимодальными приложениями.",
      "color": 16445723,
      "fields": [
        {
          "name": "Тэги",
          "value": "`Мультимодальность`, `Зрение`, `Meta`",
          "inline": true
        },
        {
          "name": "Версии",
          "value": "`11b`",
          "inline": true
        }
      ],
      "author": {
        "name": "LLaMA 3.2 Vision",
        "url": "https://ollama.com/library/llama3.2-vision",
        "icon_url": "https://custom.typingmind.com/assets/models/llama.png"
      },
      "footer": {
        "text": "Ollama ID: 085a1fdae525"
      }
    }
  ],
  "username": "System",
  "avatar_url": "https://static10.tgstat.ru/channels/_0/f8/f8ace5cf4ae021370a88c7bf21a168da.jpg",
  "attachments": []
}

Проверка валидности JSON

Для уверенности, что ваш JSON корректен, можно воспользоваться онлайн-валидаторами, например JSONLint. Вставьте ваш JSON в валидатор и убедитесь, что нет синтаксических ошибок. По предоставленному вами фрагменту ошибок синтаксиса нет.

Возможные причины проблем и рекомендации

1. Ошибка при выполнении команды /list_models

Сообщение об ошибке:

text
disnake.errors.HTTPException: 400 Bad Request (error code: 50035): Invalid Form Body
In data.embeds.0.description: This field is required

Возможные причины:

• Неправильная обработка JSON в коде бота: Возможно, бот пытается напрямую отправить JSON, а не преобразует его в объекты disnake.Embed.
• Некорректное создание disnake.Embed объектов: Убедитесь, что все обязательные поля присутствуют при создании объектов Embed.

Решение:

Убедитесь, что в вашем коде вы правильно преобразуете JSON в объекты disnake.Embed. Вот обновлённый пример кода для команды /list_models:

python
@bot.slash_command(description="Отобразить список доступных моделей")
@commands.has_permissions(manage_channels=True)
async def list_models(inter: disnake.ApplicationCommandInteraction):
    try:
        embeds = []
        for model in models_data['embeds']:
            embed = disnake.Embed(
                title=model.get('title', 'Без названия'),
                description=model.get('description', 'Описание отсутствует'),
                color=model.get('color', 0xFFFFFF)
            )
            for field in model.get('fields', []):
                embed.add_field(
                    name=field.get('name', 'Без названия'),
                    value=field.get('value', ''),
                    inline=field.get('inline', False)
                )
            author = model.get('author', {})
            if author:
                embed.set_author(
                    name=author.get('name', ''),
                    url=author.get('url', ''),
                    icon_url=author.get('icon_url', '')
                )
            footer = model.get('footer', {})
            if footer:
                embed.set_footer(text=footer.get('text', ''))
            embeds.append(embed)
        
        if len(embeds) <= 10:
            await inter.response.send_message(embeds=embeds, ephemeral=True)
        else:
            # Если моделей больше 10, отправляем их по частям
            for embed in embeds:
                await inter.followup.send(embed=embed, ephemeral=True)
    except Exception as e:
        logger.error(f"Ошибка в list_models: {e}")
        await inter.response.send_message(f"Произошла ошибка при отображении моделей: {e}", ephemeral=True)

2. Ошибка при обращении к Ollama API

Сообщение об ошибке:

text
Ошибка Ollama: 404
[GIN] 2025/01/10 - 21:46:26 | 404 |            0s |       127.0.0.1 | POST     "/v1/models/Ollama ID: f974a74358d6/generate"

Причина:

В URL для запроса к Ollama API используется полный текст из footer.text ("Ollama ID: f974a74358d6"), вместо чистого ID модели ("f974a74358d6").

Решение:

Необходимо извлечь только ID модели из footer.text, удалив префикс "Ollama ID: ".

Вот исправленная функция get_ollama_response:

python
async def get_ollama_response(ollama_footer_text, user_input):
    # Извлекаем только ID модели
    prefix = "Ollama ID: "
    if not ollama_footer_text.startswith(prefix):
        logger.error(f"Неверный формат Ollama ID: {ollama_footer_text}")
        return None
    ollama_id = ollama_footer_text[len(prefix):].strip()
    
    # Формируем правильный URL
    url = f"http://localhost:11434/v1/models/{ollama_id}/generate"
    payload = {
        "prompt": user_input,
        "max_tokens": 150
    }
    headers = {
        "Content-Type": "application/json"
    }
    async with aiohttp.ClientSession() as session:
        try:
            async with session.post(url, json=payload, headers=headers) as resp:
                if resp.status == 200:
                    data = await resp.json()
                    return data.get('response')  # Проверьте структуру ответа Ollama
                else:
                    logger.error(f"Ошибка Ollama: {resp.status}")
                    return None
        except Exception as e:
            logger.error(f"Исключение при обращении к Ollama: {e}")
            return None

3. Отсутствие предложений при выборе модели

Описание:

При использовании команд /set_global_model и /set_channel_model пользователю необходимо вручную вводить название модели. Желательно предоставить выбор из доступных моделей.

Решение:

Использовать автодополнение (autocomplete) для параметров команд. Это позволит пользователю выбирать модели из предложенного списка, а не вводить их вручную.

Вот пример реализации автодополнения для команд:

python
from disnake import Option, OptionType

def get_model_choices():
    return [
        disnake.OptionChoice(name=model['author']['name'], value=model['author']['name'])
        for model in models_data['embeds']
    ]

@bot.slash_command(description="Установить глобальную модель для всех чатов")
async def set_global_model(
    inter: disnake.ApplicationCommandInteraction,
    model_name: str
):
    settings = load_settings()
    if model_name not in [model['author']['name'] for model in models_data['embeds']]:
        await inter.response.send_message("Модель не найдена.", ephemeral=True)
        return
    settings['global_model'] = model_name
    save_settings(settings)
    await inter.response.send_message(f"Глобальная модель установлена на `{model_name}`.", ephemeral=True)

@set_global_model.autocomplete("model_name")
async def set_global_model_autocomplete(
    inter: disnake.AutocompleteInteraction,
    current: str
):
    choices = [
        disnake.OptionChoice(name=model['author']['name'], value=model['author']['name'])
        for model in models_data['embeds']
        if current.lower() in model['author']['name'].lower()
    ]
    await inter.response.send_autocomplete(choices[:25])

@bot.slash_command(description="Установить модель для текущего канала")
async def set_channel_model(
    inter: disnake.ApplicationCommandInteraction,
    model_name: str
):
    settings = load_settings()
    if model_name not in [model['author']['name'] for model in models_data['embeds']]:
        await inter.response.send_message("Модель не найдена.", ephemeral=True)
        return
    settings['channel_models'][str(inter.channel.id)] = model_name
    save_settings(settings)
    await inter.response.send_message(f"Модель для канала установлена на `{model_name}`.", ephemeral=True)

@set_channel_model.autocomplete("model_name")
async def set_channel_model_autocomplete(
    inter: disnake.AutocompleteInteraction,
    current: str
):
    choices = [
        disnake.OptionChoice(name=model['author']['name'], value=model['author']['name'])
        for model in models_data['embeds']
        if current.lower() in model['author']['name'].lower()
    ]
    await inter.response.send_autocomplete(choices[:25])

Примечание: Discord API ограничивает количество choices до 25. Если у вас больше моделей, вам нужно реализовать пагинацию или другие механизмы выбора.

Дополнительные рекомендации

1. Валидация models.json

Убедитесь, что ваш models.json всегда содержит корректные данные. Например, все модели должны иметь author.text в формате "Ollama ID: <ID>". Это необходимо для корректного извлечения ID модели.

2. Логирование

Добавьте больше логов для упрощения отладки. Например, выводите информацию о загруженных моделях при старте бота:

python
@bot.event
async def on_ready():
    logger.info(f"Бот {bot.user} готов к работе!")
    logger.info("Загруженные модели:")
    for model in models_data['embeds']:
        logger.info(f"- {model['author']['name']} (ID: {model['footer']['text']})")

3. Проверка доступности Ollama API

Убедитесь, что Ollama API действительно доступен по адресу http://localhost:11434. Проверьте, что Ollama запущен и слушает на этом порту. Вы можете использовать инструменты вроде curl или Postman для тестирования доступности API:

bash
curl -X POST http://localhost:11434/v1/models/f974a74358d6/generate -H "Content-Type: application/json" -d '{"prompt": "Hello"}'

4. Проверка структуры ответа Ollama

Убедитесь, что ответ от Ollama API содержит поле response. Возможно, структура ответа отличается, и вам нужно скорректировать доступ к данным. Например, если ответ выглядит так:

json
{
  "generated_text": "Привет! Как я могу помочь?"
}

Тогда вам нужно изменить:

python
return data.get('generated_text')

5. Обработка исключений и повторные попытки

Добавьте обработку исключений и возможность повторных попыток при временных ошибках сети или API.

6. Тестирование

После внесённых изменений тщательно протестируйте все команды и функциональность бота:

1. /list_models: Убедитесь, что все модели отображаются корректно.
2. /set_global_model и /set_channel_model: Проверьте, что модели устанавливаются правильно и выбираются из предложенного списка.
3. Чат-каналы: Отправьте сообщение в чат-канал и убедитесь, что бот отвечает через вебхук с использованием правильной модели.

Итог

Ваш models.json файл выглядит корректно и соответствует ожидаемой структуре. Однако важно убедиться, что:

1. Бот правильно обрабатывает этот JSON и создаёт объекты disnake.Embed.
2. Ollama API доступен и принимает запросы по правильному URL с корректным ID модели.
3. Структура ответа от Ollama совпадает с тем, что ожидает ваш бот.

Если после всех исправлений проблемы сохраняются, пожалуйста, предоставьте обновлённые логи ошибок и любые дополнительные детали, чтобы мы могли помочь более точно.

Удачи в разработке вашего бота! Если возникнут дополнительные вопросы, не стесняйтесь обращаться.