Oduvan’s Web Blog

• 13Oct

  Python. Json. Как не сериализировать уже сериализированое

  Python, tips View Comments

  Бомбезное название придумал!

  Проблема. У меня в таблице в 2х полях лежить жсон. А в ответ на запрос пользователю я должен вернуть другой дсон, некоторыми ключами которого будут жсоны из наших полей.

  Решение в лоп – загрузится с этих полей данные и использовать их в формировании жсона. Но получается дурная работа

  1. return json.dumps({
  2.     'user_id':request.user.id
  3.     'user_data':request.user.data(),
  4.     'info_1':json.loads(model_obj.info1),
  5.     'info_2':json.loads(model_obj.info2)
  6. })

  тут получается мы гоняем данные из жсона и обратно в холостую. Я тут наклепал небольшой модулик с использованием json чтоб этого не делать

  1. import json
  2. loads = json.loads
  3.  
  4. class JSONotEncode(object):
  5.     def __init__(self,data):
  6.         self.str = data
  7.  
  8. def simple(data):
  9.     return JSONotEncode(data)
  10.  
  11. class JSONEncoderSimple(json.JSONEncoder):
  12.     def _iterencode(self,obj,*args,**kwargs):
  13.         if isinstance(obj, JSONotEncode):
  14.             return obj.str
  15.         return json.JSONEncoder._iterencode(self,obj,*args,**kwargs)
  16.  
  17. def dumps(data):
  18.     return json.dumps(data,cls=JSONEncoderSimple)
  19.  
  20. def loads(data):
  21.     return json.loads(data)
  22.  
  23. if __name__ == '__main__':
  24.     print dumps({'a':1,'b':'sdr','c':simple('{"v":1}')})

  Как видите, теперь данные, которые и так JSON просто оборачиваем в функцию simple и холостого хода не происходит.

  Share and Enjoy:

  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 

  Rating 3.00 out of 5

  [?]

  Tags: json, Python

• 12Jul

  Django. Быстрый способ сохранить копию объекта

  Django View Comments
  1. from money.models import Trans
  2. cur_model = Trans.objects.all()[0]
  3. // and make a copy
  4. cur_model.pk = None
  5. cur_model.save() //ha ha

  Share and Enjoy:

  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 

  Rating 3.00 out of 5

  [?]

  Tags: django, Python, tips

• 10Jun

  Методология написания тестов в Django с использованием fixtures

  Django View Comments

  В Django есть такая удобная вещь для написания тестов — это fixtures. Удобство состоит в том, что ваши тесты могут входить в уже заполненный данными проект. Например тестируем работу админчасти статистики, надо иметь готовый массив данных, с которым оперируем и проверяем результаты. Неудобство состоит в том, что эти фикстуры надо где взять, надо поддерживать актуальными, такими-же актуальными как и тесты. Вот как раз и про неудобную часть, а также паре подводных камней я бы и хотел вам рассказать.

  Получаем фикстуру

  1. python manage.py dumpdata > all_data.json

  Рассказывать, что это означает я не буду, но то есть хорошая документация по фикстурам у самой Django .

  Я «обплетал» тесты уже готового написанного проекта. В нагрузку с проектом идет дамп базы, которая, как это не удивительно, может быть не целостная. Самый часты бок — это когда записи по форенключу нет. Например у Вас есть профиль, но нет юзера или есть транзакция между не существующими счетами.

  Самое обидное, что Джанго Вам не поможет решить эту проблему. И получите что-то типа
  Error: Unable to serialize database:

  Нагугил тикет в Django Code:
  https://code.djangoproject.com/ticket/6773

  К которому прилагается команда, которая показывает Вам «разбитые модели», т. е. модели не полные с неверными данными в ForeignKey .
  Я ее немного приукрасил возможностью удалять их автоматом https://gist.github.com/1018947. Для реальных данных удаление автоматом — это не очень обдуманный шаг, но мне сейчас надо получить хоть какую-то фикстуру.

  Подержание актуальности фикстуры

  Для поддержки актуальности базы между всеми разработчиками используется django-south, мне кажется это уже давно стало стандартом Django разработки. Тот же механизм можно использовать для поддержки актуальности с фикстурами, поэтому я одну фикстуру полностью перегоняю в sqlite3 базу, которую как и фикстуру держу в репозитарии проекта и для доступа к которой использую отдельный сетингс.

  Сеттингс файл для этого состоит из 3х строчек (settings_lights.py):

  1. from settings import *
  2. DATABASES['default']['ENGINE'] ='django.db.backends.sqlite3'
  3. DATABASES['default']['NAME'] = 'lights.db'

  Как известно, в любую команду можно передать не стандартное имя сетингс модуля.

  Например, для того, чтоб запустить его и добавить новых данных:

  1. python manage.py runserver 0:8001 –settings=settings_lights
  2. python manage.py dumpdata –setting=settings_lights > all_data.json

  А поддерживать актуальность фикстуры можно через миграции, которые вы создаете после изменения структуры базы

  1. python manage.py migrate –settings=settings_lights
  2. python manage.py dumpdata –setting=settings_lights > all_data.json

  Тестирование

  Для тестирования я использую тот-же settings_lights.py для того, чтобы использовать sqlite3 в тестах, при этом для тестов вся база будет держаться в памяти, что существенно ускорит процесс написания тестов и тестирования их.

  1. python manage.py test –settings=settings_lights

  Но я думаю как финальную проверку, после того, как вы закончили с разработкой ( доработкой ) тестов можно использовать и реальный Engine.

  1. python manage.py test

  А собственно сам текст тестов может выглядить так:

  1. from django.test import TestCase
  2. from django.test.client import Client
  3. from django.contrib.auth.models import User
  4.  
  5. class SimpleTest(TestCase):
  6.     fixtures = ['all_data.json']
  7.     def setUp(self):      
  8.         self.client = Client()
  9.  
  10.     def test_details(self):
  11.         print User.objects.all()

  Этот пример ничего не тестирует, а просто показывает Вам, что данные на момент запуска тестов в базе уже есть. Фикстуры можно хранить как в папке fixtures любой апы, не только тестируемой. А еще в сетингсах можно прописать:

  1. FIXTURE_DIRS = (
  2.    '/path/to/myapp/fixtures/',
  3. )

  Проблема с сигналами

  Про сигналы в Django вы можете почитать в документции.

  Фикстура — это по сути сериализация ОРМ объектов, т. е. объект будет сохранен как json, как просто текст. А значит загрузка из фикстуры — это поочередное добавление всех объектов, а добавление объектов связано с вызовом сигналов, которые в свою очередь могу сами создавать объекты моделей или изменять существующие.

  Например. У Вас есть 2 модели счета и транзакции. При добавлении транзакции — дергается сигнал, по которому изменяются балансы счетов участников этой транзакции. При подготовке фикстуры вы создали одну транзакцию между двумя счетами на сумму 100 рублей, т. е. после ее проведения на одном счету прибавится 100 рублей, а на другой вычтится. Вы сохраните полученные данные в файл фикстуры, в которой будут готовые записи со счетами и транзакциями. Во время тестирования этот файл будет загружаться и вначале загрузятся модели счетов – на одном 100, на другом -100. После загрузятся транзакции и дернут сигнал, который еще раз изменит балансы на счетах и мы во время тестирования увидим состояния на счетах 200 и -200.

  Решение у джанги есть , но почему-то не документированное, и как по мне — очень не удачное.

  В обработчик сигнала передается параметр raw который True во время загрузки фиксутры.

  Так что, если вы не хотите, чтоб обработчик сигнала работал в момент загрузки фикстуры, то первые 3 строчки вашего обработчика могут выглядит так:

  1. def trans_save(sender, instance, raw,  **kwargs):                                                                                                                                  
  2.     if raw:                
  3.         return

  Как по мне — это недокументированную возможность надо огромными буквами задокументировать в обоих разделах — тесты и сигналы, но я думаю будут решения и лучше этой проблемы.

  У меня все. Я описал то, как с фикстурами работаю я, и очевидно, что они могут сэкономить очень много времени Вам при разработке тестов, а также могут помогать Вам делать более качественные и реальные тесты.

  Хотелось бы в комментариях увидеть критику такого подхода, дополнения, подводные камни, с которым вы сталкиваетесь. Буду дополнять статью Вашими цитатами и идеями.

  Спасибо, и удачных Вам выходных.

  Share and Enjoy:

  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 

  Rating 3.00 out of 5

  [?]

  Tags: django, fixtures, Python, testing

• 07May

  Фансы и шортсы. Такого программирования вы еще не видели :)

  Programming View Comments

  Вчера для CheckIO придумали вам новую развлекуху, друзья мои, на эти выходные

  Идея развлекухи в том, что надо придумать максимально необычное решение для самой обычной задачи. Например, самое простое из раздела Funny, и проще уже не придумаешь - Funny addition. На вход – массив из 2х интов, а на выходе их сумма. Но функция sum(data) – это же не смешно. Смешнее что-то вроде max(data) + min(data).

  Заходим, пишем свое аморальное решение, и рейтенгуем решения друзей.

  По результатам выложу сюда топ аморальщины. Развлекайтесь и удачных вым выходных

  ЗЫ: У нас есть еще прикольные шортсы, но о них уже в другой раз

  Share and Enjoy:

  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 

  Rating 3.00 out of 5

  [?]

  Tags: checkio, Programming, Python

• 24Apr

  ЧекЁ или почему я не сплю последние несколько месяцев

  Internet, Programming View Comments

  

  Я последние несколько месяцев любую свободную минутку посвящаю именно этому проекту www.checkio.org, т. к. чувствую, что делаю что-то полезное, что-то что может помогать молоды специалистам.

  Я уже писал о нем, но сейчас, когда считаю, что закончен большой этап в развитии этого проекта решил написать еще раз, а лучше показать.

  Тут Вы можете посмотреть видео небольшого туториала на тему чекио, а именно, как чекио позволяет находить идеальное решение многих задач, а так же помогать в обучению как питону так и программированию в целом.

  Так-же у нас на стадии тестирования терниры между программами. И первой задачей для турнира сейчас выбрана игра five in row. Надо написать программу, которая будет играть в эту игру, в простонародье – бота

  После прохождения квалификации — вы сами, интерактивно, можете поиграть в нее. Можете поиграть с другими программами на арене. Турнир между программами у нас запланирован на конец мая. Хотелось бы увидеть по больше участников, должно быть интересно.

  Еще хотелось бы услышать от вас отзыв. Как Вам проект?

  Share and Enjoy:

  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 

  Rating 3.00 out of 5

  [?]

  Tags: checkio, Python

• 11Jan

  UCSVLOG. Нужна точка.

  Programming View Comments

  Это продолжение моего общения с собой на тему логов.

  Размышляя на тему логов, у которых нет конца – я пришел к выводу – что у записи конец обязан быть. Парсеру возможно это и не важно, но человеку надо знать, что эта запись полная.

  Например у Вас такая часть лога

  
"date time,"log,"inc sum: 100


  Парсер эту строку распарсит очень просто, а вот у человека не будет уверенности в цифре. А может там был мильен.

  Именно по этому у записи должна быть точка. И пока кроме идеи – тупо добавлять ячейку с точкой мне ничего в голову не пришло.

  Так что теперь наша запись в логах меняется на следующую:
  
"date time,"log,"inc sum: 100,".


  В принципе можно заморочиться на том, чтоб записи, в которых реально только одна точка – заменять на 2, а 2 – на 3. Ну т.е. при парсе надо понимать, что если в записи – одни точки, то нужно уменьшить их кол на одну. Но чем дольше я об этом думаю, тем больше понимаю, что это уже перебор. И такую погрешность можно взять в учет.

  Откуда вообще у меня тараканы в голове на тему логов.

  Когда-то я руководил разработкой электронных кассиров для банка. Ну, знаете, такая штука с тачскрином, купюроприемником и притером. Так вот, они, как положено вели логи, и периодически отправляли их на сервер, а на сервере периодически работал анализатор логов на предмет как-либо неожиданности в работе элементов кассира, а также проводил сверку локальных логов с данными присланными на сервер. Таким образом осуществлялся двойной контроль за их работой.

  Вот с тех пор у меня и бегают ваши в голове на тему логов для легкого анализа, остальные преимущества таких логов появились уже по ходу пьесы.

  Сегодня уже фиксы в текущие логи внести не получится, но завтра постараюсь выкроить время.

  Share and Enjoy:

  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 

  Rating 3.00 out of 5

  [?]

  Tags: log, Python, ucsvlog

• 03Jan

  UCSVLOG

  Python View Comments

  Я уже когда-то писал и думал о системе логирования на основе csv формата. С начало идею, а потом первую версию для джанги.

  Но в процессе пользования этой системы вылезло несколько недостатков.

  1. В таком формате легко потерять целостность логов. Например скрипт ведения логов упал в момент из записи. Срока разорвалась в момент записи одно из полей и все. Вся БД логов потеряна
  2. Надо заранее знать количество полей в логе

  Поэтому я разработал другой формат – UCSV. И модуль для ведения логов на его основе python-ucsvlog.

  В этом формате нет конца ни у записи ни у ячейки, есть только начало записи и начало ячейки. В этом случае конец ячейки — это просто начало следующей или начало следующей строки.

  Начало записи — это перевод строки
  а начало ячейки — это просто ”
  ну и из csv формата — кавычка в данных ячейки заменяеться двумя

  В этом случае нам не надо волноваться за целостность всех логов. В случае падения мы потеряем только одну строку

  Вместе с логером я написал потоковый парсер. Ему не надо знать, какого размера у тебя файл, он читает файл порционно и порционно импортирует данные в БД. Все это происходит довольно просто и без регекспов.

  Класс импорта в SQLite — ReaderSqlite. Правда во время импорта данных у которых в записи неограниченное число ячеек столбцы добавляются по ходу.

  Из csv логов я забрал идею древовидности логов. Когда у каждой записи есть ключ, привязанный ко времени создания и ключ парент записи. За это отвечают 2 первые ячейки в записи. А также авторендеринг — имя файла логов можно задавать в виде шаблона. Например ‘/logs/%(syear)s-%(month)s-%(day)s.ucsv’

  Для джанги я создал отдельный пакет django-ucsvlog. Те кто пользовался django-csvlog смогут легко перескочить. Поддержку последнего я осуществлять более не буду.

  По мере пользования этой системы логирования я буду собирать еще один компонент django-ucsvlog-analytics. В нем будут собраны скрипты для анализа логов. Например профилирование, оно очевидно из-за привязки ко времени логов. Можно сводить статистику — самые тяжелые страницы + самые часто запрашиваемые и получать то, что надо оптимизировать в первую очередь. Или например анализ юзабилити. Можно вычислять точки не возврата, страницы, которые пользователь посещал в последний раз, или на какую страницу переходят после указанной ( иногда только такая сухая статика может убедить клиента в неюзабельность предложенного им варианта ). Можно делать каунтеры посещений определенных страниц, сколько уникальных просмотров было на этом альбоме. Можно увидеть путь по сайту определенного пользователя.

  Такие логи дают много возможностей, и список «можно» – можно продолжать бесконечно. Пробуйте.
  python-ucsvlog, django-ucsvlog, django-ucsvlog-analytics

  Share and Enjoy:

  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 

  Rating 3.00 out of 5

  [?]

  Tags: analytics, django, logs, Python, ucsv, ucsvlog

• 22Nov

  CheckIO.org – We are betta almost

  Internet, Life, Programming View Comments

  

  С момента старта и первого поста о проекте чекио прошло чуть больше месяца. Это был запуск довольно сырой альфы, но, не смотря на это, я получил много положительных отзывов, что вдохновило меня продолжить развивать этот сервис.

  Спасибо всем, кто подробно описывал баги, помагал в их устранении. На этапе запуска в отсутствии нормального функционала для багрепорта это было очень полезно для процесса разработки и улучшения сервиса.

  Итак, за этот месяц нам удалось реализовать 3 идеи, причем в условиях полного рефакторинга ядра.

  Первая идея— Learning. Я назвал это «Подарок для наших маленьких слушателей», хотя она может быть полезна и большим дядям. Если попытаться изложить их идею одним предложением — это цепочка задач от легкой к сложной, причем в описании самой задачи есть все справочные данные для ее решения. Таким образом пользователь на примерах учится питону и параллельно пробует свои силы, т. к. я абсолютно уверен, что в программировании знания без практики не имеют никакой ценности.

  В последствии это может быть использовано для изучения и получения навыков работы с оупенсорсными библиотеками (я бы написал, к примеру, обучалку для Stream). К тому же, если Вы – разработчик какой-либо библиотеки, можете отправить мне список задач для использования Вашей библиотеки и мы добавим ее. Еще такой вариант: если это какие-нибудь системные библиотеки, то для них можно писать заглушки, полностью описывающие интерфейс, но ничего системного не делающие. Вообщем, мне кажется, что я вижу, куда раскручивать эту тему, и мы с командой будем это делать.

  Сейчас у нас набиваются лернинги по базовым классам питона и о продвижениях в этом направлении мы будем сообщать уже в новостях самого проекта.

  Появление следующих 2 фич связаны с тем, что я люблю играть в логические игры: саперы, реверси, 5 в линию, лаинс, сокобан, судоку и многие другие. Благодаря чекио Вы сможете попробовать описать стратегию этих игр — программно. Т.е. Вы пишите программу, которая сама играет в игру.

  Итак, следующий тип задач — это Score Games или Single Player Game. Это игры, в которых выиграть нельзя, но можно постараться набрать как можно больше очков. Первым представителем этих игр стал Lines lite. От классической игры в Lines эту игру отличает то, что не нужно, чтобы шар проходил путь полностью, а достаточно, чтоб он просто становился на пустое место. По мере того, как пользователи буду справляться с этой задачей, мы добавим и не «облегченную» версию.

  Играть довольно просто. Вашей программе checkio передается дикт из следующих ключей:

  • steps — это массив координат только что поставленных шаров
  • map — это текущая карта. В этой версии игры размер карты 9х9. Каждый шар обозначен цифрой от 1 до 9, пустые места обозначены 0
  • colors — цвета следующих трех маркеров.

  Как результат, Ваша функция должна вернуть массив из 2х координат (координата – это массив из 2х чисел) – откуда и куда необходимо передвинуть шарик на поле. Тот, кто впервые слышит об этой игре, тот может ознакомиться с ее правилами более подробно на wikipedia.

  Как только Вы написали программу, нажимайте play. Вы увидите в результатах работы программы поле, которое будет заполняться шарами разных цветов. Нажимая next или prev, Вы будете двигаться по итерациям этой игры. Под игровым полем выводится количество набранных очков. Если Вы набираете больше 0, то попадаете в High Score этой игры. Мы попали в High Score с оглушительным счетом – 5ть очков. Попробуйте нас переплюнуть

  Ну и о последнем обновлении Вы, наверное, уже догадались. Это Competition или Multi Player Game. Тут уж выигрывать можно и нужно. Для тестирования Вашей программы нужен соперник. Под соперником мы понимаем написанную на этом портале кем-то другим программу, т.е. играть друг с другом будут Ваши программы. Давайте лучше на примерах. Первым представителем этой игры является 5 in row или Gomoku(wikipedia).

  Вам нужно написать программу, которая бы играла с «кем-то» в эту игру. На вход (как уже принято) подается дикт со следующими ключами:

  • you — твой марк в игре
  • data — данные игры

  Данные игры — это так же дикт со следующими значениями:

  • map — текущая карта. Массив 19х19 со значениями 1 или 2, если занято первым или вторым игроком и 0, если не занято никем
  • step — ход противника

  На выходе – ваша программа должна вернуть координаты вашего хода.

  Для выбора соперника вам необходимо нажать на Check With и обозначить пользователя, находящегося сейчас на арене, нажав напротив понравившегося кнопку check. Можете для тестирования выбирать в соперниках – oduvan. Можете посмотреть на нашей странице фейсбука или линкедина, как она играет пока сама с собой.

  Как и в score game справа выведутся результаты игры. В соревнованиях игра прокручивается дважды: в первой игре первым ходишь ты, во второй — твой соперник. Именно поэтому и передается параметр you в функцию.

  Переключаться между итерациями можно так же как и в score game, с одной лишь разницей, что над этим еще идет переключение между этими двумя играми. Ну и, конечно же, если пользователей двое и игр две, то, одним из результатов встречи может быть ничья.

  Когда Вы решили, что ваша программа теперь очень даже ничего и пришло время и ей найти свое место на арене – смело нажимайте «On Arena» на верхней панели. Теперь другие пользователи могут тестить свою игру с Вашей программой. Игры, помещенные на Арену, будут периодически запускаться системой для проведения между ними соревнований. Если во время соревнования Ваша программа выпала с ошибкой, то она вылетает из турнирной таблицы, иначе, своими победами она будет достигать все лучших и лучших результатов.

  Так что, попробуйте написать своего непобедимого игрока, мы своего уже написали.

  Когда мы пытались написать свое решение для этих типов задач, самой большой проблемой было несовершенство браузерного редактора кода. Для средних тасков из каталога – его очень даже хватает, но Competition и Score Game – это уже более сложные и комплексные задачи. Теперь Вы можете просто скачать эту программу себе на компьютер и решать ее в своем любимом редакторе кода, тут же тестировать и дебажить работу программы. Для этого необходимо распаковать скачанный архив, написать свою программу в файл solution.py и запустить checkio.py для проверки ее работы.
  В случае Score Game, ваша программа будет играть с компьютером и зарабатывать очки, а в случае с Competition Game, Вы будете сами играть со своей программой, либо можете использовать возможность заранее составить файл с массивом ходов противника и передать ее checkio.py во время запуска.

  Ну и конечно, самое крутое, это то, что у проекта появились новости и рсс через feedbearn, свое место в FaceBook, LinkedIn и Twitter, теперь Вы сможете быть в курсе всего и удобным для Вас способом. И именно поэтому на своем блоге я больше ни слова не напишу о чекио, дабы не засорять агрегаторы, в которых нахожусь, нецелевой информацией. Тут теперь только о питоне, джанге и еще всякой интересной программистической штукенции. Но, тем не менее, буду очень признателен тем своим читателям, которые отметят этот скромный проект отзывами на своих блогах, думаю, это приведет в проект еще больше сильных игроков с новыми и интересными решениями. Буду очень признателен за отзывы, критику и предложения, которые касаются этого проекта, в FaceBook и LinkedIn.

  Еще появилась возможность у себя в профиле указывать ссылки на свой сайт, на профили в LinkedIn, FaceBook и Twitter. Мир должен знать своих героев в лицо. А также можете повесить на свой сайт нашу плюшку (чем-то напоминающую плюшку из StackOverflow), тем самым пригласить своих читателей в наш сервис, ну и похвастать своими результатами в нем. Я себе уже такую повесил.

  
  
  Еще немного о критике. Во время первого запуска мы выложили несколько сырых либо некорректных программ. Подобные ошибки я бы хотел устранять благодаря Тестеровщикам/Контролерам качества (название для этой группы людей еще обсуждается). Эти люди будут видеть еще не опубликованные задачи. Они смогут попробовать решить их раньше всех, высказать свое мнение об описании, сложности и по существу самой задачи. Еще не знаю как, но уверяю, что их заслуги не будут забыты. Подать заявку о входе в ряды Тестеровщиков можно в разделе «Как помочь?» и выбрать «Стать тестером» или просто написать мне.

  Вообщем, это вкратце то, что я хотел сегодня рассказать об этом проекте. Хочу сказать спасибо моей команде. Отдельные слова благодарности Денисенко Екатерине за помощь в переводе некоторых частей сайта на английский язык. Спасибо noonerus за помощь в нарезке и за то, что дал мне несколько хороших и весьма полезных уроков. И самое большое спасибо Вам за то, что помогаете своими багрепортами, отзывами и программами

  Ту би континюэд….

  Share and Enjoy:

  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 

  Rating 3.00 out of 5

  [?]

  Tags: checkio, Python, startup

• 01Jul

  Допоплнительные точки расширения Вашего апа

  Django View Comments

  при создании нового джанго проекта я всегда выделяю две папки apps – для моих апов и compat – для сторонних апов, к разработки которых я не имею никакого отношения. Идея в том, что эти апы всегда остаются неприкосновенными для меня, и единственной точкой расширения остаются сеттингсы и возможно доп параметры, при инклюде урлов.

  А представьте, что вы создаете апу с именем catalog, ее вы потом хотите выложить в общее пользования, и необходимо для нее сделать больше точек расширения. Структура такого апа может быть

  • catalog
  • urls.py
  • views.py
  • models.py
  • settings.py
  • tests.py

  для 4 первых файлов можно просто вконце файла добавить строку, которая станет универсальной точкой расширения. Например для views.py

  1. try:
  2.     from ex_catalog.views import *
  3. except ImportError:
  4.     pass

  таким образом, если кто-то будет использовать Вашу апу — точкой расширения будет дополнительная апа ex_catalog, в котором вы можете переопределить некоторый функции из view.py, и при этом ex_catalog не надо добавлять в список апов в настройках.

  А теперь главный вопрос этого поста. Почему так не делают?

  Share and Enjoy:

  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 

  Rating 3.00 out of 5

  [?]

  Tags: apps, django, Python, tips

• 22Jun

  Fabric – деплойтинг должен быть легким и быстрым

  Linux & Unix, Python View Comments

  
  Чем меньше рутины мы привносим в свою работу, тем больше она может приносить удовольствия.

  Сегодня я расскажу про автоматизированный деплойтинг в python. Это значит одной командой я могу залить на все продакшен сервера файлы, обновить на нем необходимые компоненты и перегрузить веб сервер, и наблюдать за этим откинувшись на кресле и попивать кофеек.

  Я Вам расскажу про Fabric(На момент написания статьи 0.9.1 — бала последняя стабильная версия), наиболее подходящий для этого инструмент, который делает все описанное и даже больше через ssh.

  Про установку рассказывать особо нечего, pip отлично справляется с этим.

  В корень своего проекта я кладу fabfile.py, в этом файле и будут храниться все процедуры для работы с Fabric. Ниже приведу небольшой пример скрипта, который будет архивировать наш проект, заливать его на сервер и там разархивировать.

  1. from fabric.api import *
  2. env.hosts = ['oduvan@lyabah.com']
  3.  
  4. def deploy():
  5.     local('tar czf /tmp/my_project.tgz .')
  6.     put('/tmp/my_project.tgz', '/tmp/')
  7.     with cd('/home/oduvan/www/test_fab/'):
  8.         run('tar xzf /tmp/my_project.tgz')

  Если у Вас все получилось, а я очень надеюсь, что с этим хостом и именем пользователя ни у кого кроме меня получиться ничего не может (так что поменяйте свою строку конекта во второй строке), то вы можете увидеть что-то сильно напоминающее вот это:

  1. $ fab deploy
  2. [localhost] run: tar czf /tmp/my_project.tgz .
  3. Password for oduvan@lyabah.com:
  4. [oduvan@lyabah.com] put: /tmp/my_project.tgz -> /tmp/my_project.tgz
  5. [oduvan@lyabah.com] run: tar xzf /tmp/my_project.tgz
  6. [oduvan@lyabah.com] err: tar: ./fabfile.pyc: time stamp 2010-06-21 10:03:41 is 4.461083597 s in the future
  7. [oduvan@lyabah.com] err: tar: .: time stamp 2010-06-21 10:03:41 is 4.460804762 s in the future
  8.  
  9. Done.
  10. Disconnecting from lyabah.com… done.

  Само собой, пароль у вас спросят и его необходимо будет ввести, в конце статьи я выложу свой пароль к ссш, чтоб вы могли протестить работу.

  Кому лень вводить пароли могу добавить после второй сроки
  env.password = ‘oh_its_my_real_password’

  либо сгенерить себе файл с ссш ключом и путь к нему положить в
  env.key_filename — в отличие и пароля тут может быть передан массив ключей

  Но и этот код можно сократить. У Fabric есть contrib libs, одна из них project. Тут подробно каждую я описывать не буду, просто покажу пример с одной из них, дабы просто показать, что они есть

  1. from fabric.api import *
  2. from fabric.contrib.project import rsync_project
  3. env.hosts = ['oduvan@lyabah.com']
  4.  
  5. def deploy():
  6.     local('python manage.py test', capture=False)
  7.     rsync_project('/home/oduvan/www/test_fab/','.')

  как видите наш код сократился до одной команды, не считая команду для тестирования Django проекта, ведь если какая-то команда возвратит ошибочный статус, то выполнения прекратится, а значит если тесты не проходят загрузка не начинается. Дополнительный параметр capture говорит о том, что необходимо скрывать выходные данные команды, мы эту опцию отключаем.

  Вот основные команды, которые Вам необходимо знать, чтоб свободно пользоваться Fabric

  put — копировать файл с локальной машины на удаленную. Доп параметр mode — устанавливает права на файл, см chmod
  get — копировать файл с удаленной на локальную
  local — выполнить команду на локальной машине. Доп параметр capture — скрывать выходные данные, по умолчанию False
  run — выполнить команду на удаленной машине
  sudo — выполнить команду на удаленной машине через судо. Доп параметр user — указываем имя пользователя, под которым необходимо запустить команду

  Обратите внимание, что у нас есть команда sudo, а значит при необходимости, мы можем и сервак зарелоадить и вообще сделать любые админ вещи, главное, чтоб пользователь был в судоерсах.

  Для деплойтинга на несколько серверов, причем различной конфигурации, и роли – у Fabric тоже кое-что припасено.

  1. from fabric.api import *
  2. from fabric.contrib.project import rsync_project
  3. env.roledefs =  {'web':['oduvan@lyabah.com','oduvan@dev.lyabah.com'],
  4.         'db':['oduvan@db1.lyabah.com','oduvan@db2.lyabah.com'],
  5.         'media':['oduvan@media@lyabah.com'],
  6.         }
  7.  
  8. @roles('web')
  9. def deploy():
  10.     rsync_project('/home/oduvan/www/test_fab/','.')

  в этом примере заливка файлов будет идти сразу на 2 вебовых сервака. Как видите вы можете запланировать у себя роли отдельных серверов под БД, под медиа файл и т.д.

  кроме как декоратаром роль можно указывать и при запуске процедуры

  1. $ fab deploy -R web

  Иногда в момент или во время запуска необходимо передать данные скрипту.

  В момент запуска это делается через аргументы самой функции

  к примеру если у вас

  1. def deploy(arg1,arg2):
  2.     pass

  то эти 2 аргумента можно передать как

  1. $fab deploy:'HI','HO'
  2. $ fab deploy:'HI',arg2='HO'
  3. $ fab deploy:arg1='HI',arg2='HO'

  Либо спросить что-то во время работы функции у пользователя функцией
  prompt(text, key=None, default=”, validate=None)

  Задает вопрос пользователю с текстом text, если пользователь не вводит данные, то возвращает значение из default, предварительно отчищая его функцией validate, и возвращает как результат этой функции, если не передан key, иначе кладет значение в env[key]

  А теперь примеры функций деплойтинга из реальной жизни, которые вы можете написать и у себя в проекте:

  bounce_wsgi_procs — зарелоадить wsgi через touch в него
  deploy_media — загружаем только медиа файлы
  migrate — запускаем скрипт миграции через South
  update_repositories – обновляем репозитарии
  update_dependencies — устанавливаем зависимости
  reload_nginx — перегружаем nginx
  deploy — полная установка, последовательный запуск всех этих функций.

  Подводя итоги могу сказать, что Fabric должна стать musthave tool в разработке.

  Share and Enjoy:

  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 
  • 

  Rating 3.00 out of 5

  [?]

  Tags: admin, deploy, fabric, Python, server

« Previous Entries