Я хочу вставить файл JSON (также доступен в формате CSV) в базу данных mySQL, используя инфраструктуру cakePHP. Основы понятны, но окружающие требования усложняют:
Как вы можете видеть, многое происходит с некоторыми ограничениями (память, время выполнения и т. Д.). Но я не уверен, как подойти к этому с точки зрения архитектуры. Например. я должен сначала попытаться вставить все в отдельную таблицу базы данных «import», а затем выполнить шаги по отдельности? Как можно получить идентификаторы из базы данных, сопоставленной с линиями CSV? Cakephp может выполнять создание новой или обновление существующей записи, если я могу сопоставить идентификатор на основе номера art_number. Также изменение и копирование до 200 000 изображений, кажется большой проблемой. Так как же разбить это на более мелкие куски?
Буду признателен, если вы поможете найти правильную стратегию здесь. Что мне нужно учитывать с точки зрения памяти и скорости? Есть ли смысл разбивать процесс на разные работы? Что / как бы ты это сделал?
Буду признателен, если вы поможете найти правильную стратегию здесь. Что мне нужно учитывать с точки зрения памяти и скорости?
Есть ли смысл разбивать процесс на разные работы? Что / как бы ты это сделал?
Это зависит от требований и от того, сколько времени займет обработка, а также от того, сколько ваша система может обрабатывать параллельно, не загружая процессор до 100% и эффективно замедляя работу сайта. В этом случае переместите обработку на другой компьютер или ограничьте использование ЦП для этого процесса, используя хорошая команда.
Других решений пока нет …