This commit is contained in:
F4ilji
2026-03-23 10:50:31 +05:00
parent b1c4f7b054
commit 1256adba98
89 changed files with 3587 additions and 10419 deletions
@@ -0,0 +1,234 @@
<?php
namespace App\Containers\Dashboard\Actions;
use App\Containers\Dashboard\Data\EmailAttachmentData;
use App\Containers\Dashboard\Exceptions\EmailFetchException;
use App\Containers\Dashboard\Tasks\ConnectToImapTask;
use App\Containers\Dashboard\Tasks\DownloadAttachmentsTask;
use App\Containers\Dashboard\Tasks\FetchUnreadEmailsTask;
use App\Containers\Dashboard\Tasks\FilterBySenderTask;
use App\Containers\Dashboard\Tasks\MarkEmailAsReadTask;
use App\Containers\Dashboard\Actions\ProcessMixedFilesAction;
use Illuminate\Http\UploadedFile;
use Illuminate\Support\Facades\Log;
use Illuminate\Support\Facades\Storage;
use Webklex\PHPIMAP\Client;
use Webklex\PHPIMAP\Folder;
/**
* Оркестрация процесса получения новостей из Email
*/
class FetchEmailNewsAction
{
public function __construct(
private readonly ConnectToImapTask $connectToImapTask,
private readonly FetchUnreadEmailsTask $fetchUnreadEmailsTask,
private readonly FilterBySenderTask $filterBySenderTask,
private readonly DownloadAttachmentsTask $downloadAttachmentsTask,
private readonly MarkEmailAsReadTask $markEmailAsReadTask,
private readonly ProcessMixedFilesAction $processMixedFilesAction,
) {}
/**
* Выполнить получение и обработку новостей из Email
*
* @return array Результат обработки
* @throws EmailFetchException
*/
public function run(): array
{
// Проверяем, включена ли функция
if (!config('email-news.enabled', true)) {
Log::warning('[FetchEmailNewsAction] Функция отключена в конфиге');
throw EmailFetchException::featureDisabled();
}
Log::info('[FetchEmailNewsAction] Начало получения новостей из Email');
$result = [
'processed_emails' => 0,
'skipped_emails' => 0,
'created_posts' => 0,
'errors' => [],
'posts' => [],
];
try {
// Подключаемся к IMAP
$client = $this->connectToImapTask->run();
// Получаем папку
$folder = $this->connectToImapTask->getFolder(
$client,
config('email-news.folder', 'INBOX')
);
// Получаем непрочитанные письма
$emails = $this->fetchUnreadEmailsTask->run($folder);
if (empty($emails)) {
Log::info('[FetchEmailNewsAction] Нет непрочитанных писем');
return $result;
}
// Фильтруем по отправителю
$filteredEmails = $this->filterBySenderTask->run($emails);
$result['skipped_emails'] = count($emails) - count($filteredEmails);
// Обрабатываем каждое письмо
foreach ($filteredEmails as $email) {
$emailResult = $this->processEmail($email, $folder);
if ($emailResult['success']) {
$result['created_posts']++;
$result['posts'][] = $emailResult['post'];
} else {
$result['errors'][] = [
'email_subject' => $email['subject'],
'error' => $emailResult['error'],
];
}
$result['processed_emails']++;
}
Log::info('[FetchEmailNewsAction] Завершено', [
'processed' => $result['processed_emails'],
'created_posts' => $result['created_posts'],
'skipped' => $result['skipped_emails'],
'errors_count' => count($result['errors']),
]);
return $result;
} catch (\Exception $e) {
Log::error('[FetchEmailNewsAction] Критическая ошибка', [
'error' => $e->getMessage(),
'trace' => $e->getTraceAsString(),
]);
throw $e;
}
}
/**
* Обработать одно письмо
*
* @param array $email Данные письма
* @param Folder $folder IMAP папка
* @return array Результат обработки
*/
private function processEmail(array $email, Folder $folder): array
{
Log::info('[FetchEmailNewsAction:processEmail] Обработка письма', [
'subject' => $email['subject'],
'from' => $email['from_email'],
]);
try {
// Скачиваем вложения
$attachments = $this->downloadAttachmentsTask->run($email['message']);
// Проверяем, есть ли DOC/DOCX файл
$hasDocument = collect($attachments)->contains(fn($att) => $att->isDocument());
if (!$hasDocument) {
Log::warning('[FetchEmailNewsAction:processEmail] Нет DOC/DOCX файла во вложениях', [
'subject' => $email['subject'],
]);
return [
'success' => false,
'error' => 'Нет DOC/DOCX файла для извлечения текста',
];
}
// Конвертируем вложения в UploadedFile
$uploadedFiles = $this->convertToUploadedFiles($attachments);
// Обрабатываем через существующий ProcessMixedFilesAction
$postResult = $this->processMixedFilesAction->run($uploadedFiles);
// Помечаем письмо как прочитанное
$this->markEmail($email['message'], $folder);
Log::info('[FetchEmailNewsAction:processEmail] Письмо успешно обработано', [
'subject' => $email['subject'],
'post_id' => $postResult['post']->id,
]);
return [
'success' => true,
'post' => $postResult['post'],
'attachments_count' => count($attachments),
];
} catch (\Exception $e) {
Log::error('[FetchEmailNewsAction:processEmail] Ошибка обработки письма', [
'subject' => $email['subject'],
'error' => $e->getMessage(),
]);
return [
'success' => false,
'error' => $e->getMessage(),
];
}
}
/**
* Конвертировать EmailAttachmentData в UploadedFile
*
* @param array<EmailAttachmentData> $attachments
* @return \Illuminate\Support\Collection<UploadedFile>
*/
private function convertToUploadedFiles(array $attachments): \Illuminate\Support\Collection
{
$uploadedFiles = [];
foreach ($attachments as $attachment) {
$fullPath = storage_path('app/' . $attachment->path);
if (!file_exists($fullPath)) {
Log::warning('[FetchEmailNewsAction:convertToUploadedFiles] Файл не найден', [
'path' => $attachment->path,
]);
continue;
}
// Создаём UploadedFile из сохранённого файла
$uploadedFile = new UploadedFile(
$fullPath,
$attachment->filename,
$attachment->mimeType,
null,
true // test = false (файл валиден)
);
$uploadedFiles[] = $uploadedFile;
}
Log::info('[FetchEmailNewsAction:convertToUploadedFiles] Конвертировано файлов', [
'count' => count($uploadedFiles),
]);
return collect($uploadedFiles);
}
/**
* Пометить письмо как прочитанное (и возможно переместить)
*
* @param object $message IMAP сообщение
* @param Folder $folder Текущая папка
*/
private function markEmail(object $message, Folder $folder): void
{
$moveToFolder = config('email-news.move_to_folder');
if ($moveToFolder) {
$this->markEmailAsReadTask->markAndMove($message, $moveToFolder);
} elseif (config('email-news.mark_as_read', true)) {
$this->markEmailAsReadTask->run($message);
}
}
}
@@ -5,6 +5,7 @@ namespace App\Containers\Dashboard\Actions;
use App\Containers\Article\Models\Category;
use App\Containers\Article\Models\Post;
use App\Containers\Dashboard\Tasks\CallAiServiceTask;
use App\Containers\Dashboard\Tasks\CompressImageTask;
use App\Containers\Dashboard\Tasks\CreatePostFromAiDataTask;
use App\Containers\Dashboard\Tasks\ExtractTextFromDocumentTask;
use App\Containers\Dashboard\Tasks\FindMainNewsFileTask;
@@ -19,6 +20,7 @@ class ProcessMixedFilesAction
private readonly ExtractTextFromDocumentTask $extractTextFromDocumentTask,
private readonly CallAiServiceTask $callAiServiceTask,
private readonly CreatePostFromAiDataTask $createPostFromAiDataTask,
private readonly CompressImageTask $compressImageTask,
) {}
/**
@@ -104,18 +106,72 @@ class ProcessMixedFilesAction
*/
private function saveFiles(Collection $files, UploadedFile $mainFile): array
{
Log::info('[ProcessMixedFilesAction:saveFiles] Начало сохранения файлов', [
'total_files' => $files->count(),
]);
// Сохраняем основной документ
$documentPath = $mainFile->store('documents', 'local');
// Сохраняем остальные файлы как медиа
$mediaPaths = $files
->filter(fn($file) => $file !== $mainFile)
->map(fn($file) => $file->store('media', 'public'))
->toArray();
// Сжимаем и сохраняем остальные файлы как медиа
$mediaPaths = [];
$compressionStats = ['total' => 0, 'compressed' => 0, 'saved_bytes' => 0];
foreach ($files as $file) {
// Пропускаем основной файл
if ($file === $mainFile) {
continue;
}
$compressionStats['total']++;
// Если это изображение - сжимаем
if ($this->compressImageTask->isImage($file)) {
Log::info('[ProcessMixedFilesAction:saveFiles] Обработка изображения', [
'file' => $file->getClientOriginalName(),
]);
$result = $this->compressImageTask->run($file);
if ($result['compressed']) {
$compressionStats['compressed']++;
$compressionStats['saved_bytes'] += $result['original_size'] - $result['size'];
Log::info('[ProcessMixedFilesAction:saveFiles] Изображение сжато', [
'file' => $file->getClientOriginalName(),
'original_size' => $this->formatFileSize($result['original_size']),
'compressed_size' => $this->formatFileSize($result['size']),
'ratio' => $result['compression_ratio'] . '%',
]);
}
// Сохраняем сжатый файл
$path = $result['file']->store('media', 'public');
// Очищаем временный файл
if (file_exists($result['file']->getRealPath())) {
unlink($result['file']->getRealPath());
}
$mediaPaths[] = $path;
} else {
// Не изображения сохраняем как есть
$path = $file->store('media', 'public');
$mediaPaths[] = $path;
}
}
Log::info('[ProcessMixedFilesAction:saveFiles] Статистика сжатия', [
'total_images' => $compressionStats['total'],
'compressed' => $compressionStats['compressed'],
'saved' => $this->formatFileSize($compressionStats['saved_bytes']),
'saved_bytes' => $compressionStats['saved_bytes'],
]);
return [
'documentPath' => $documentPath,
'mediaPaths' => $mediaPaths,
'compressionStats' => $compressionStats,
];
}
@@ -5,9 +5,11 @@ namespace App\Containers\Dashboard\Actions;
use App\Containers\Article\Models\Category;
use App\Containers\Article\Models\Post;
use App\Containers\Dashboard\Tasks\CallAiServiceTask;
use App\Containers\Dashboard\Tasks\CompressImageTask;
use App\Containers\Dashboard\Tasks\CreatePostFromAiDataTask;
use App\Containers\Dashboard\Tasks\ExtractTextFromDocumentTask;
use Illuminate\Http\UploadedFile;
use Illuminate\Support\Facades\Log;
class ProcessUploadedFilesAction
{
@@ -15,6 +17,7 @@ class ProcessUploadedFilesAction
private readonly ExtractTextFromDocumentTask $extractTextFromDocumentTask,
private readonly CallAiServiceTask $callAiServiceTask,
private readonly CreatePostFromAiDataTask $createPostFromAiDataTask,
private readonly CompressImageTask $compressImageTask,
) {}
/**
@@ -64,13 +67,48 @@ class ProcessUploadedFilesAction
}
/**
* Сохраняет медиафайлы
* Сохраняет медиафайлы со сжатием
*/
private function saveMediaFiles(array $mediaFiles): array
{
return collect($mediaFiles)
->map(fn($file) => $file->store('media', 'public'))
->toArray();
$paths = [];
$compressionStats = ['total' => 0, 'compressed' => 0, 'saved_bytes' => 0];
foreach ($mediaFiles as $file) {
$compressionStats['total']++;
// Если это изображение - сжимаем
if ($this->compressImageTask->isImage($file)) {
$result = $this->compressImageTask->run($file);
if ($result['compressed']) {
$compressionStats['compressed']++;
$compressionStats['saved_bytes'] += $result['original_size'] - $result['size'];
}
// Сохраняем сжатый файл
$path = $result['file']->store('media', 'public');
// Очищаем временный файл
if (file_exists($result['file']->getRealPath())) {
unlink($result['file']->getRealPath());
}
$paths[] = $path;
} else {
// Не изображения сохраняем как есть
$path = $file->store('media', 'public');
$paths[] = $path;
}
}
Log::info('[ProcessUploadedFilesAction] Статистика сжатия', [
'total_images' => $compressionStats['total'],
'compressed' => $compressionStats['compressed'],
'saved' => $this->formatFileSize($compressionStats['saved_bytes']),
]);
return $paths;
}
/**
@@ -0,0 +1,115 @@
<?php
namespace App\Containers\Dashboard\Commands;
use App\Containers\Dashboard\Actions\FetchEmailNewsAction;
use App\Containers\Dashboard\Exceptions\EmailFetchException;
use App\Ship\Abstracts\Commands\ConsoleCommand;
use Illuminate\Support\Facades\Log;
/**
* Artisan команда для получения новостей из Email
*/
class FetchEmailNewsCommand extends ConsoleCommand
{
/**
* The name and signature of the console command.
*
* @var string
*/
protected $signature = 'email:fetch-news
{--force : Принудительный запуск, даже если отключено в конфиге}
{--log : Выводить подробный лог в консоль}';
/**
* The console command description.
*
* @var string
*/
protected $description = 'Получение новостей из Email (IMAP) и создание черновиков';
/**
* Execute the console command.
*
* @return int
*/
public function handle(FetchEmailNewsAction $fetchEmailNewsAction): int
{
$this->info('📧 Запуск получения новостей из Email...');
$force = $this->option('force');
$verbose = $this->option('log');
// Проверяем, включена ли функция
if (!config('email-news.enabled', true) && !$force) {
$this->error('❌ Функция отключена в конфиге (EMAIL_NEWS_ENABLED=false)');
$this->warn('Используйте --force для принудительного запуска');
return 1;
}
try {
$result = $fetchEmailNewsAction->run();
// Вывод результатов
$this->newLine();
$this->line('📊 Результаты обработки:');
$this->table(
['Метрика', 'Значение'],
[
['Обработано писем', $result['processed_emails']],
['Пропущено (не редактор)', $result['skipped_emails']],
['Создано новостей', $result['created_posts']],
['Ошибок', count($result['errors'])],
]
);
// Вывод созданных постов
if (!empty($result['posts'])) {
$this->newLine();
$this->info('✅ Созданные новости:');
foreach ($result['posts'] as $post) {
$status = $post->status instanceof \BackedEnum ? $post->status->value : $post->status;
$this->line("{$post->title} (ID: {$post->id}, статус: {$status})");
}
}
// Вывод ошибок
if (!empty($result['errors'])) {
$this->newLine();
$this->error('❌ Ошибки:');
foreach ($result['errors'] as $error) {
$this->warn("{$error['email_subject']}: {$error['error']}");
}
}
// Подробный лог
if ($verbose) {
$this->newLine();
$this->info('📝 Детальный лог доступен в storage/logs/laravel.log');
}
$this->newLine();
$this->info('✅ Завершено!');
return 0;
} catch (EmailFetchException $e) {
$this->error('❌ Ошибка Email: ' . $e->getMessage());
Log::error('[FetchEmailNewsCommand] EmailFetchException', [
'code' => $e->getCode(),
'message' => $e->getMessage(),
]);
return 1;
} catch (\Exception $e) {
$this->error('❌ Критическая ошибка: ' . $e->getMessage());
$this->warn('Проверьте логи: storage/logs/laravel.log');
Log::error('[FetchEmailNewsCommand] Critical Error', [
'error' => $e->getMessage(),
'trace' => $e->getTraceAsString(),
]);
return 1;
}
}
}
@@ -0,0 +1,46 @@
<?php
return [
/*
|--------------------------------------------------------------------------
| Email News Fetching Settings
|--------------------------------------------------------------------------
|
| Настройки для автоматического получения новостей из Email
|
*/
// Включить ли функционал
'enabled' => env('EMAIL_NEWS_ENABLED', true),
// Имя аккаунта из config/imap.php
'imap_account' => 'email_news',
// Email редактора (единственный разрешённый отправитель)
'editor_email' => env('EMAIL_NEWS_SENDER_EMAIL'),
// Whitelist email-адресов (если редакторов несколько)
'allowed_senders' => [
env('EMAIL_NEWS_SENDER_EMAIL'),
// Можно добавить дополнительные email
// env('EMAIL_NEWS_SENDER_EMAIL_2'),
],
// IMAP папка для проверки
'folder' => env('EMAIL_NEWS_FOLDER', 'INBOX'),
// Что делать с письмами после обработки
'mark_as_read' => env('EMAIL_NEWS_MARK_AS_READ', true),
// Перемещать ли обработанные письма в другую папку (или null)
'move_to_folder' => env('EMAIL_NEWS_MOVE_TO', null),
// Папка для сохранения вложений
'attachments_folder' => 'email_attachments',
// Максимальный размер вложения (в байтах), 0 = без ограничений
'max_attachment_size' => env('EMAIL_NEWS_MAX_ATTACHMENT_SIZE', 41943040), // 40MB
// Логировать ли отклонённые письма (не от редактора)
'log_skipped_emails' => env('EMAIL_NEWS_LOG_SKIPPED', true),
];
@@ -0,0 +1,63 @@
<?php
namespace App\Containers\Dashboard\Data;
/**
* DTO для представления вложения Email
*/
class EmailAttachmentData
{
public function __construct(
public readonly string $filename,
public readonly string $mimeType,
public readonly int $size,
public readonly string $path,
public readonly ?string $contentId = null,
) {}
/**
* Создать DTO из файла
*/
public static function fromFile(string $path, string $originalFilename, string $mimeType, int $size, ?string $contentId = null): self
{
return new self(
filename: $originalFilename,
mimeType: $mimeType,
size: $size,
path: $path,
contentId: $contentId,
);
}
/**
* Проверить, является ли вложение изображением
*/
public function isImage(): bool
{
return str_starts_with($this->mimeType, 'image/');
}
/**
* Проверить, является ли вложение документом (DOC/DOCX)
*/
public function isDocument(): bool
{
$documentMimes = [
'application/msword',
'application/vnd.openxmlformats-officedocument.wordprocessingml.document',
];
$documentExtensions = ['doc', 'docx'];
return in_array($this->mimeType, $documentMimes, true)
|| in_array(strtolower(pathinfo($this->filename, PATHINFO_EXTENSION)), $documentExtensions, true);
}
/**
* Получить расширение файла
*/
public function getExtension(): string
{
return strtolower(pathinfo($this->filename, PATHINFO_EXTENSION));
}
}
@@ -0,0 +1,88 @@
<?php
namespace App\Containers\Dashboard\Exceptions;
use Exception;
/**
* Исключение для ошибок при получении Email
*/
class EmailFetchException extends Exception
{
/**
* Ошибка подключения к IMAP
*/
public static function connectionFailed(string $message = ''): self
{
return new self(
message: 'Не удалось подключиться к IMAP-серверу. ' . ($message ?: ''),
code: 1001,
);
}
/**
* Папка не найдена
*/
public static function folderNotFound(string $folder): self
{
return new self(
message: "IMAP-папка не найдена: {$folder}",
code: 1002,
);
}
/**
* Нет писем для обработки
*/
public static function noEmailsFound(): self
{
return new self(
message: 'Не найдено писем для обработки',
code: 1003,
);
}
/**
* Ошибка при загрузке вложения
*/
public static function attachmentDownloadFailed(string $filename, string $message = ''): self
{
return new self(
message: "Не удалось загрузить вложение: {$filename}. " . ($message ?: ''),
code: 1004,
);
}
/**
* Ошибка: письмо не от редактора
*/
public static function senderNotAllowed(string $senderEmail): self
{
return new self(
message: "Письмо получено от неразрешённого отправителя: {$senderEmail}",
code: 1005,
);
}
/**
* Ошибка: нет вложений
*/
public static function noAttachmentsFound(): self
{
return new self(
message: 'В письме не найдено вложений',
code: 1006,
);
}
/**
* Ошибка: функционал отключён
*/
public static function featureDisabled(): self
{
return new self(
message: 'Функция получения новостей из Email отключена в конфиге',
code: 1007,
);
}
}
@@ -0,0 +1,164 @@
<?php
namespace App\Containers\Dashboard\Models;
use Illuminate\Database\Eloquent\Factories\HasFactory;
use Illuminate\Database\Eloquent\Model;
use Illuminate\Database\Eloquent\Relations\BelongsTo;
/**
* Модель лога получения Email
*
* @property int $id
* @property string $message_id
* @property string $from_email
* @property string|null $from_name
* @property string $subject
* @property \Carbon\Carbon $email_date
* @property string $status (success, failed, skipped)
* @property int|null $post_id
* @property string|null $error_message
* @property int $attachments_count
* @property int $total_size
* @property string|null $processed_from
* @property array|null $metadata
* @property \Carbon\Carbon $created_at
* @property \Carbon\Carbon $updated_at
*/
class EmailFetchLog extends Model
{
use HasFactory;
protected $guarded = false;
protected $casts = [
'email_date' => 'datetime',
'metadata' => 'array',
'total_size' => 'integer',
'attachments_count' => 'integer',
];
/**
* Связь с постом
*/
public function post(): BelongsTo
{
return $this->belongsTo(\App\Containers\Article\Models\Post::class);
}
/**
* Scope: успешные
*/
public function scopeSuccessful($query)
{
return $query->where('status', 'success');
}
/**
* Scope: неудачные
*/
public function scopeFailed($query)
{
return $query->where('status', 'failed');
}
/**
* Scope: пропущенные
*/
public function scopeSkipped($query)
{
return $query->where('status', 'skipped');
}
/**
* Scope: от конкретного отправителя
*/
public function scopeFromSender($query, string $email)
{
return $query->where('from_email', $email);
}
/**
* Создать лог успешной обработки
*/
public static function logSuccess(
string $messageId,
string $fromEmail,
string $subject,
\DateTime $emailDate,
int $postId,
int $attachmentsCount,
int $totalSize,
array $metadata = []
): self {
return static::create([
'message_id' => $messageId,
'from_email' => $fromEmail,
'from_name' => null,
'subject' => $subject,
'email_date' => $emailDate,
'status' => 'success',
'post_id' => $postId,
'error_message' => null,
'attachments_count' => $attachmentsCount,
'total_size' => $totalSize,
'processed_from' => request()->ip() ?? null,
'metadata' => $metadata,
]);
}
/**
* Создать лог ошибки
*/
public static function logFailed(
string $messageId,
string $fromEmail,
string $subject,
\DateTime $emailDate,
string $errorMessage,
int $attachmentsCount = 0,
array $metadata = []
): self {
return static::create([
'message_id' => $messageId,
'from_email' => $fromEmail,
'from_name' => null,
'subject' => $subject,
'email_date' => $emailDate,
'status' => 'failed',
'post_id' => null,
'error_message' => $errorMessage,
'attachments_count' => $attachmentsCount,
'total_size' => 0,
'processed_from' => request()->ip() ?? null,
'metadata' => $metadata,
]);
}
/**
* Создать лог пропущенного письма
*/
public static function logSkipped(
string $messageId,
string $fromEmail,
string $subject,
\DateTime $emailDate,
string $reason = 'Not from allowed sender',
array $metadata = []
): self {
return static::create([
'message_id' => $messageId,
'from_email' => $fromEmail,
'from_name' => null,
'subject' => $subject,
'email_date' => $emailDate,
'status' => 'skipped',
'post_id' => null,
'error_message' => $reason,
'attachments_count' => 0,
'total_size' => 0,
'processed_from' => request()->ip() ?? null,
'metadata' => $metadata,
]);
}
}
@@ -0,0 +1,225 @@
# 📧 Email News Fetching
Автоматическое получение новостей из Email и создание черновиков в системе.
## 📋 Описание
Функция позволяет автоматически:
- Подключаться к IMAP-серверу
- Получать непрочитанные письма от редактора
- Скачивать вложения (DOC, DOCX, изображения)
- Создавать новости через существующий `ProcessMixedFilesAction`
- Помечать обработанные письма как прочитанные
## 🏗 Архитектура (Porto)
```
app/Containers/Dashboard/
├── Actions/
│ └── FetchEmailNewsAction.php # Оркестрация процесса
├── Tasks/
│ ├── ConnectToImapTask.php # IMAP подключение
│ ├── FetchUnreadEmailsTask.php # Получение писем
│ ├── FilterBySenderTask.php # Фильтрация по отправителю
│ ├── DownloadAttachmentsTask.php # Загрузка вложений
│ └── MarkEmailAsReadTask.php # Пометка как прочитанное
├── Data/
│ └── EmailAttachmentData.php # DTO для вложений
├── Exceptions/
│ └── EmailFetchException.php # Исключения
├── Commands/
│ └── FetchEmailNewsCommand.php # Artisan команда
└── Configs/
└── email-news.php # Конфигурация
```
## 🔧 Установка
### 1. Пересобрать PHP-контейнер (требуется расширение IMAP)
```bash
docker-compose down
docker-compose build --no-cache ntspi-php
docker-compose up -d
```
### 2. Настроить переменные окружения
Скопируйте `.env.email-news.example` в `.env` и заполните:
```env
EMAIL_NEWS_ENABLED=true
EMAIL_NEWS_IMAP_HOST=imap.yandex.ru
EMAIL_NEWS_IMAP_PORT=993
EMAIL_NEWS_ENCRYPTION=ssl
EMAIL_NEWS_IMAP_USER=news@ntspi.ru
EMAIL_NEWS_IMAP_PASS=app_password
EMAIL_NEWS_SENDER_EMAIL=editor@example.com
EMAIL_NEWS_FOLDER=INBOX
```
### 3. Протестировать подключение
Запустите команду вручную:
```bash
docker exec -it ntspi-php php artisan email:fetch-news --log
```
## 📝 Использование
### Ручной запуск
```bash
# Обычный запуск
docker exec -it ntspi-php php artisan email:fetch-news
# С подробным логом
docker exec -it ntspi-php php artisan email:fetch-news --log
# Принудительный запуск (если отключено в конфиге)
docker exec -it ntspi-php php artisan email:fetch-news --force
```
### Автоматический запуск (Cron)
Команда автоматически добавлена в расписание Laravel Scheduler:
- **Частота:** каждые 5 минут
- **Защита от перекрытий:** `withoutOverlapping()`
- **Один сервер:** `onOneServer()`
Scheduler уже настроен в `app/Ship/Kernels/ConsoleKernel.php`.
Убедитесь, что Cron запущен в контейнере:
```bash
# Проверьте crontab
docker exec -it ntspi-php crontab -l
# Должно быть:
# * * * * * php /var/www/artisan schedule:run >> /dev/null 2>&1
```
## 🔐 Безопасность
### Фильтрация отправителей
Обрабатываются **только письма от редактора**, указанного в `EMAIL_NEWS_SENDER_EMAIL`.
Письма от других отправителей:
- ❌ Не обрабатываются
- ❌ Не скачиваются
- ✅ Логируются (если `EMAIL_NEWS_LOG_SKIPPED=true`)
- ✅ Остаются в папке (не помечаются прочитанными)
### Whitelist нескольких отправителей
В конфиге `app/Containers/Dashboard/Configs/email-news.php` можно указать несколько email:
```php
'allowed_senders' => [
env('EMAIL_NEWS_SENDER_EMAIL'),
env('EMAIL_NEWS_SENDER_EMAIL_2'),
env('EMAIL_NEWS_SENDER_EMAIL_3'),
],
```
### App-Specific Password
**Рекомендуется** использовать специальный пароль приложения вместо основного пароля:
- **Yandex:** https://passport.yandex.ru/profile/passwords
- **Google:** https://myaccount.google.com/apppasswords
- **Mail.ru:** https://account.mail.ru/security
## 📊 Логирование
Логи доступны в `storage/logs/laravel.log`:
```log
[2024-01-15 10:30:00] local.INFO: [FetchEmailNewsAction] Начало получения новостей из Email
[2024-01-15 10:30:01] local.INFO: [ConnectToImapTask] Успешное подключение к IMAP
[2024-01-15 10:30:02] local.INFO: [FetchUnreadEmailsTask] Получены письма: count=3
[2024-01-15 10:30:02] local.INFO: [FilterBySenderTask] Фильтрация писем: total=3, filtered=2, skipped=1
[2024-01-15 10:30:05] local.INFO: [FetchEmailNewsAction:processEmail] Письмо успешно обработано: post_id=123
```
## ⚠️ Обработка ошибок
### Типичные ошибки
| Ошибка | Причина | Решение |
|--------|---------|---------|
| `Не удалось подключиться к IMAP-серверу` | Неправильный хост/порт/пароль | Проверьте `.env` настройки |
| `IMAP-папка не найдена` | Папка не существует | Проверьте имя папки в `EMAIL_NEWS_FOLDER` |
| `Письмо получено от неразрешённого отправителя` | Отправитель не в whitelist | Добавьте email в `allowed_senders` |
| `Нет DOC/DOCX файла для извлечения текста` | Во вложениях нет документа | Редактор должен прикрепить DOC/DOCX |
### Отладка
```bash
# Запуск с подробным выводом
docker exec -it ntspi-php php artisan email:fetch-news --log
# Просмотр последних логов
docker exec -it ntspi-php tail -f storage/logs/laravel.log
# Проверка расширения IMAP
docker exec -it ntspi-php php -m | grep imap
```
## 🔄 Поток данных
```
┌─────────────────────────────────────────────────────────┐
│ Cron (каждые 5 мин) → php artisan email:fetch-news │
│ ↓ │
│ FetchEmailNewsCommand │
│ ↓ │
│ FetchEmailNewsAction │
│ ├─ ConnectToImapTask (IMAP-соединение) │
│ ├─ FetchUnreadEmailsTask (получение писем) │
│ ├─ FilterBySenderTask (проверка отправителя) │
│ ├─ DownloadAttachmentsTask (скачивание вложений) │
│ └─ ProcessMixedFilesAction (создание поста) ←───┐ │
│ ↓ │ │
│ MarkEmailAsReadTask (пометка как прочитанное) │ │
└───────────────────────────────────────────────────┼────┘
┌───────────────────────────────┘
Существующий процесс создания новости
(AI-распознавание, сжатие изображений, и т.д.)
```
## 🧪 Тестирование
### Отправка тестового письма
1. Отправьте письмо с `EMAIL_NEWS_SENDER_EMAIL` на `EMAIL_NEWS_IMAP_USER`
2. Прикрепите DOC/DOCX файл (текст новости)
3. Прикрепите изображения (опционально)
4. Запустите команду:
```bash
docker exec -it ntspi-php php artisan email:fetch-news --log
```
5. Проверьте создание новости в Dashboard
### Мок-тестирование (для разработчиков)
```php
// В Unit-тестах можно моковать IMAP
$this->mock(ClientManager::class, function ($mock) {
$mock->shouldReceive('account')
->with('email_news')
->andReturn($client);
});
```
## 📚 Ссылки
- [Webklex PHP-IMAP Documentation](https://github.com/Webklex/php-imap)
- [Laravel Scheduler](https://laravel.com/docs/10.x/scheduling)
- [Porto Architecture](https://github.com/AlxDorosenco/Porto)
@@ -0,0 +1,151 @@
<?php
namespace App\Containers\Dashboard\Tasks;
use Illuminate\Http\UploadedFile;
use Illuminate\Support\Facades\Log;
use Intervention\Image\Facades\Image;
class CompressImageTask
{
/**
* Максимальное качество сжатия WebP (0-100)
*/
private const WEBP_QUALITY = 82;
/**
* Максимальное качество для JPEG (0-100)
*/
private const JPEG_QUALITY = 85;
/**
* Максимальная ширина изображения (px)
*/
private const MAX_WIDTH = 1920;
/**
* Максимальная высота изображения (px)
*/
private const MAX_HEIGHT = 1920;
/**
* Порог размера файла для сжатия (в байтах) - 1MB
*/
private const SIZE_THRESHOLD = 1048576;
/**
* Сжимает изображение и конвертирует в WebP
*
* @param UploadedFile $file Исходный файл изображения
* @return array ['path' => путь к файлу, 'size' => размер в байтах, 'original_size' => исходный размер]
*/
public function run(UploadedFile $file): array
{
$extension = strtolower($file->getClientOriginalExtension());
Log::info('[CompressImageTask] Начало обработки изображения', [
'file' => $file->getClientOriginalName(),
'extension' => $extension,
'size' => $this->formatFileSize($file->getSize()),
'size_bytes' => $file->getSize(),
]);
// Если файл уже меньше порога и это WebP - пропускаем сжатие
if ($file->getSize() <= self::SIZE_THRESHOLD && $extension === 'webp') {
Log::info('[CompressImageTask] Файл уже оптимизирован, пропускаем', [
'file' => $file->getClientOriginalName(),
]);
return [
'file' => $file,
'size' => $file->getSize(),
'original_size' => $file->getSize(),
'compressed' => false,
];
}
// Создаём изображение через Intervention
$img = Image::make($file->getRealPath());
// Получаем исходные размеры
$originalWidth = $img->width();
$originalHeight = $img->height();
Log::info('[CompressImageTask] Исходные размеры', [
'width' => $originalWidth,
'height' => $originalHeight,
]);
// Ресайзим если больше максимальных размеров
if ($originalWidth > self::MAX_WIDTH || $originalHeight > self::MAX_HEIGHT) {
$img->resize(self::MAX_WIDTH, self::MAX_HEIGHT, function ($constraint) {
$constraint->aspectRatio();
$constraint->upsize();
});
Log::info('[CompressImageTask] Изображение ресайзнуто', [
'new_width' => $img->width(),
'new_height' => $img->height(),
]);
}
// Конвертируем в WebP и сжимаем
$webpData = $img->encode('webp', self::WEBP_QUALITY)->getEncoded();
// Сохраняем во временный файл
$tempFileName = pathinfo($file->getClientOriginalName(), PATHINFO_FILENAME) . '.webp';
$tempPath = sys_get_temp_dir() . '/' . uniqid('img_compress_') . '.webp';
file_put_contents($tempPath, $webpData);
$newSize = filesize($tempPath);
Log::info('[CompressImageTask] Сжатие завершено', [
'original_size' => $this->formatFileSize($file->getSize()),
'compressed_size' => $this->formatFileSize($newSize),
'compression_ratio' => round((1 - $newSize / $file->getSize()) * 100, 2) . '%',
'temp_path' => $tempPath,
]);
// Создаём новый UploadedFile из сжатого
$compressedFile = new UploadedFile(
$tempPath,
$tempFileName,
'image/webp',
$newSize,
true
);
return [
'file' => $compressedFile,
'size' => $newSize,
'original_size' => $file->getSize(),
'compressed' => true,
'compression_ratio' => round((1 - $newSize / $file->getSize()) * 100, 2),
];
}
/**
* Проверяет, является ли файл изображением
*/
public function isImage(UploadedFile $file): bool
{
$extension = strtolower($file->getClientOriginalExtension());
$imageExtensions = ['jpg', 'jpeg', 'png', 'webp', 'gif', 'bmp', 'tiff', 'svg'];
return in_array($extension, $imageExtensions);
}
/**
* Форматирует размер файла
*/
private function formatFileSize(int $bytes): string
{
$units = ['б', 'КиБ', 'МиБ', 'ГиБ'];
$bytes = max($bytes, 0);
$pow = floor(($bytes ? log($bytes) : 0) / log(1024));
$pow = min($pow, count($units) - 1);
$bytes /= (1 << (10 * $pow));
return round($bytes, 2) . ' ' . $units[$pow];
}
}
@@ -0,0 +1,106 @@
<?php
namespace App\Containers\Dashboard\Tasks;
use App\Containers\Dashboard\Exceptions\EmailFetchException;
use Webklex\PHPIMAP\Client;
use Webklex\PHPIMAP\ClientManager;
use Webklex\PHPIMAP\Folder;
use Illuminate\Support\Facades\Log;
/**
* Подключение к IMAP-серверу
*/
class ConnectToImapTask
{
/**
* Подключиться к IMAP-серверу
*
* @param string|null $accountName Имя аккаунта из config/imap.php
* @return Client IMAP клиент
* @throws EmailFetchException
*/
public function run(?string $accountName = null): Client
{
$accountName = $accountName ?? config('email-news.imap_account', 'email_news');
// Получаем конфиг для webklex/php-imap
$imapConfig = config('imap');
Log::info('[ConnectToImapTask] Попытка подключения к IMAP', [
'account' => $accountName,
'host' => $imapConfig['accounts'][$accountName]['host'] ?? 'unknown',
]);
try {
// Создаём ClientManager с явным конфигом
$clientManager = new ClientManager($imapConfig);
$client = $clientManager->account($accountName);
$client->connect();
Log::info('[ConnectToImapTask] Успешное подключение к IMAP', [
'account' => $accountName,
]);
return $client;
} catch (\Exception $e) {
Log::error('[ConnectToImapTask] Ошибка подключения к IMAP', [
'account' => $accountName,
'error' => $e->getMessage(),
]);
throw EmailFetchException::connectionFailed($e->getMessage());
}
}
/**
* Получить папку
*
* @param Client $client IMAP клиент
* @param string $folderName Имя папки
* @return Folder
* @throws EmailFetchException
*/
public function getFolder(Client $client, string $folderName): Folder
{
Log::info('[ConnectToImapTask] Получение папки', [
'folder' => $folderName,
]);
try {
// Пробуем получить папку напрямую
$folder = $client->getFolder($folderName);
// Если не получилось, ищем в списке папок
if (!$folder) {
$folders = $client->getFolders();
foreach ($folders as $f) {
if ($f->name === $folderName || $f->path === $folderName) {
$folder = $f;
break;
}
}
}
if (!$folder) {
throw EmailFetchException::folderNotFound($folderName);
}
Log::info('[ConnectToImapTask] Папка получена успешно', [
'folder' => $folderName,
'fullName' => $folder->full_name ?? $folder->name ?? $folderName,
]);
return $folder;
} catch (EmailFetchException $e) {
throw $e;
} catch (\Exception $e) {
Log::error('[ConnectToImapTask] Ошибка получения папки', [
'folder' => $folderName,
'error' => $e->getMessage(),
]);
throw EmailFetchException::folderNotFound($folderName);
}
}
}
@@ -0,0 +1,151 @@
<?php
namespace App\Containers\Dashboard\Tasks;
use App\Containers\Dashboard\Data\EmailAttachmentData;
use App\Containers\Dashboard\Exceptions\EmailFetchException;
use Illuminate\Support\Facades\Log;
use Illuminate\Support\Facades\Storage;
use Webklex\PHPIMAP\Attachment;
/**
* Загрузка и сохранение вложений из письма
*/
class DownloadAttachmentsTask
{
/**
* Скачать и сохранить вложения
*
* @param object $message IMAP сообщение
* @param string|null $disk Диск для сохранения
* @return array<EmailAttachmentData>
* @throws EmailFetchException
*/
public function run(object $message, ?string $disk = null): array
{
$disk = $disk ?? config('email-news.attachments_folder', 'email_attachments');
Log::info('[DownloadAttachmentsTask] Начало загрузки вложений', [
'message_id' => $message->getMessageId(),
'disk' => $disk,
]);
$attachments = $message->getAttachments();
if (empty($attachments)) {
Log::warning('[DownloadAttachmentsTask] Вложения не найдены');
throw EmailFetchException::noAttachmentsFound();
}
Log::info('[DownloadAttachmentsTask] Найдено вложений', [
'count' => count($attachments),
]);
$savedAttachments = [];
$maxSize = config('email-news.max_attachment_size', 41943040); // 40MB по умолчанию
/** @var Attachment $attachment */
foreach ($attachments as $attachment) {
try {
// Проверяем размер
if ($maxSize > 0 && $attachment->getSize() > $maxSize) {
Log::warning('[DownloadAttachmentsTask] Вложение превышает максимальный размер', [
'filename' => $attachment->getName(),
'size' => $attachment->getSize(),
'max_size' => $maxSize,
]);
continue;
}
// Сохраняем вложение
$savedPath = $this->saveAttachment($attachment, $disk);
if ($savedPath) {
$savedAttachments[] = EmailAttachmentData::fromFile(
path: $savedPath,
originalFilename: $attachment->getName(),
mimeType: $attachment->getContentType(),
size: $attachment->getSize(),
contentId: $attachment->getContentId(),
);
Log::info('[DownloadAttachmentsTask] Вложение сохранено', [
'filename' => $attachment->getName(),
'path' => $savedPath,
'size' => $attachment->getSize(),
]);
}
} catch (\Exception $e) {
Log::error('[DownloadAttachmentsTask] Ошибка сохранения вложения', [
'filename' => $attachment->getName(),
'error' => $e->getMessage(),
]);
// Продолжаем обработку остальных вложений
}
}
if (empty($savedAttachments)) {
Log::error('[DownloadAttachmentsTask] Не удалось сохранить ни одно вложение');
throw EmailFetchException::noAttachmentsFound();
}
Log::info('[DownloadAttachmentsTask] Загрузка вложений завершена', [
'saved_count' => count($savedAttachments),
]);
return $savedAttachments;
}
/**
* Сохранить вложение на диск
*
* @param Attachment $attachment Вложение
* @param string $disk Диск для сохранения
* @return string|null Путь к сохранённому файлу
*/
private function saveAttachment(Attachment $attachment, string $disk): ?string
{
$filename = $this->generateUniqueFilename($attachment->getName());
$savePath = storage_path('app/' . $disk);
// Создаём директорию, если не существует
if (!is_dir($savePath)) {
mkdir($savePath, 0755, true);
}
// Сохраняем вложение (метод save принимает только путь и имя файла)
try {
$savedPath = $attachment->save($savePath, $filename);
if ($savedPath) {
// Возвращаем относительный путь для сохранения в БД
return $disk . '/' . $filename;
}
} catch (\Exception $e) {
Log::error('[DownloadAttachmentsTask:saveAttachment] Ошибка сохранения', [
'filename' => $attachment->getName(),
'error' => $e->getMessage(),
]);
}
return null;
}
/**
* Сгенерировать уникальное имя файла
*
* @param string $originalName Оригинальное имя файла
* @return string
*/
private function generateUniqueFilename(string $originalName): string
{
$extension = strtolower(pathinfo($originalName, PATHINFO_EXTENSION));
$basename = pathinfo($originalName, PATHINFO_FILENAME);
// Очищаем имя от специальных символов
$basename = preg_replace('/[^a-zA-Z0-9_\-\p{L}]/u', '_', $basename);
// Добавляем timestamp для уникальности
return $basename . '_' . time() . '_' . bin2hex(random_bytes(4)) . '.' . $extension;
}
}
@@ -0,0 +1,60 @@
<?php
namespace App\Containers\Dashboard\Tasks;
use Webklex\PHPIMAP\Folder;
use Illuminate\Support\Facades\Log;
/**
* Получение непрочитанных писем из папки
*/
class FetchUnreadEmailsTask
{
/**
* Получить непрочитанные письма
*
* @param Folder $folder IMAP папка
* @return array Массив писем
*/
public function run(Folder $folder): array
{
Log::info('[FetchUnreadEmailsTask] Получение непрочитанных писем', [
'folder' => $folder->full_name ?? $folder->name ?? 'unknown',
]);
try {
// Получаем все непрочитанные сообщения
$messages = $folder->messages()->unseen()->get();
$emails = [];
foreach ($messages as $message) {
$from = $message->getFrom()[0] ?? null;
$subject = $message->getSubject();
$date = $message->getDate();
$emails[] = [
'message' => $message,
'message_id' => $message->getMessageId(),
'from_email' => $from?->mail ?? null,
'from_name' => $from?->name ?? null,
'subject' => $subject,
'date' => $date,
'has_attachments' => $message->hasAttachments(),
];
}
Log::info('[FetchUnreadEmailsTask] Получены письма', [
'count' => count($emails),
'folder' => $folder->full_name ?? $folder->name ?? 'unknown',
]);
return $emails;
} catch (\Exception $e) {
Log::error('[FetchUnreadEmailsTask] Ошибка получения писем', [
'error' => $e->getMessage(),
]);
return [];
}
}
}
@@ -0,0 +1,95 @@
<?php
namespace App\Containers\Dashboard\Tasks;
use Illuminate\Support\Facades\Log;
/**
* Фильтрация писем по отправителю
*/
class FilterBySenderTask
{
/**
* Отфильтровать письма по разрешённым отправителям
*
* @param array $emails Массив писем
* @param array|null $allowedSenders Whitelist email-адресов
* @return array Отфильтрованные письма
*/
public function run(array $emails, ?array $allowedSenders = null): array
{
// Если whitelist не передан, берём из конфига
$allowedSenders = $allowedSenders ?? config('email-news.allowed_senders', []);
// Фильтруем пустые значения
$allowedSenders = array_filter($allowedSenders, fn($email) => !empty($email));
// Если список пуст, используем editor_email
if (empty($allowedSenders)) {
$editorEmail = config('email-news.editor_email');
if ($editorEmail) {
$allowedSenders = [$editorEmail];
}
}
Log::info('[FilterBySenderTask] Фильтрация писем', [
'total_emails' => count($emails),
'allowed_senders' => $allowedSenders,
]);
if (empty($allowedSenders)) {
Log::warning('[FilterBySenderTask] Не указан разрешённый отправитель, пропускаем все письма');
return [];
}
$filtered = [];
$skippedCount = 0;
foreach ($emails as $email) {
$fromEmail = $email['from_email'];
// Проверяем, есть ли отправитель в whitelist
if (!in_array($fromEmail, $allowedSenders, true)) {
$skippedCount++;
// Логируем только если включено логирование
if (config('email-news.log_skipped_emails', true)) {
Log::debug('[FilterBySenderTask] Пропущено письмо от неразрешённого отправителя', [
'from' => $fromEmail,
'subject' => $email['subject'],
'date' => $email['date'],
]);
}
continue;
}
$filtered[] = $email;
}
Log::info('[FilterBySenderTask] Фильтрация завершена', [
'total' => count($emails),
'filtered' => count($filtered),
'skipped' => $skippedCount,
]);
return $filtered;
}
/**
* Проверить конкретный email на разрешение
*
* @param string $email Email для проверки
* @return bool
*/
public function isAllowed(string $email): bool
{
$allowedSenders = config('email-news.allowed_senders', []);
$allowedSenders = array_filter($allowedSenders, fn($e) => !empty($e));
if (empty($allowedSenders)) {
$allowedSenders = [config('email-news.editor_email')];
}
return in_array($email, $allowedSenders, true);
}
}
@@ -0,0 +1,74 @@
<?php
namespace App\Containers\Dashboard\Tasks;
use Illuminate\Support\Facades\Log;
/**
* Пометка письма как прочитанного
*/
class MarkEmailAsReadTask
{
/**
* Пометить письмо как прочитанное
*
* @param object $message IMAP сообщение
* @return bool
*/
public function run(object $message): bool
{
Log::info('[MarkEmailAsReadTask] Пометка письма как прочитанного', [
'message_id' => $message->getMessageId(),
'subject' => $message->getSubject(),
]);
try {
$message->setFlag('Seen');
Log::info('[MarkEmailAsReadTask] Письмо помечено как прочитанное');
return true;
} catch (\Exception $e) {
Log::error('[MarkEmailAsReadTask] Ошибка пометки письма', [
'error' => $e->getMessage(),
]);
return false;
}
}
/**
* Пометить письмо как прочитанное и переместить в другую папку
*
* @param object $message IMAP сообщение
* @param string $targetFolder Целевая папка
* @return bool
*/
public function markAndMove(object $message, string $targetFolder): bool
{
Log::info('[MarkEmailAsReadTask] Пометка и перемещение письма', [
'message_id' => $message->getMessageId(),
'target_folder' => $targetFolder,
]);
try {
// Помечаем как прочитанное
$message->setFlag('Seen');
// Перемещаем в другую папку
$message->moveToFolder($targetFolder);
Log::info('[MarkEmailAsReadTask] Письмо обработано и перемещено', [
'target_folder' => $targetFolder,
]);
return true;
} catch (\Exception $e) {
Log::error('[MarkEmailAsReadTask] Ошибка обработки письма', [
'error' => $e->getMessage(),
]);
return false;
}
}
}
@@ -29,8 +29,15 @@ class ProcessMixedFilesController extends Controller
$result = $this->processMixedFilesAction->run($files);
// Формируем сообщение со статистикой сжатия
$compressionMessage = '';
if (isset($result['compressionStats']) && $result['compressionStats']['compressed'] > 0) {
$compressionMessage = ' Изображения сжаты: ' . $result['compressionStats']['compressed'] . '/' . $result['compressionStats']['total'] .
' (экономия ' . $this->formatFileSize($result['compressionStats']['saved_bytes']) . ')';
}
return back()->with([
'success' => 'Файлы успешно загружены! Новость создана: ' . $result['post']->title,
'success' => 'Файлы успешно загружены! Новость создана: ' . $result['post']->title . $compressionMessage,
'extracted_text' => $result['newsData'],
'created_post' => [
...$result['post']->toArray(),
@@ -45,6 +52,20 @@ class ProcessMixedFilesController extends Controller
}
}
/**
* Форматирует размер файла
*/
private function formatFileSize(int $bytes): string
{
$units = ['б', 'КиБ', 'МиБ', 'ГиБ'];
$bytes = max($bytes, 0);
$pow = floor(($bytes ? log($bytes) : 0) / log(1024));
$pow = min($pow, count($units) - 1);
$bytes /= (1 << (10 * $pow));
return round($bytes, 2) . ' ' . $units[$pow];
}
/**
* Собирает все файлы из request
*/