Размещено на http://www.allbest.ru/

ФЕДЕРАЛЬНОЕ ГОСУДАРСТВЕННОЕ АВТОНОМНОЕ ОБРАЗОВАТЕЛЬНОЕ УЧРЕЖДЕНИЕ ВЫСШЕГО ОБРАЗОВАНИЯ

«НАЦИОНАЛЬНЫЙ ИССЛЕДОВАТЕЛЬСКИЙ УНИВЕРСИТЕТ

«ВЫСШАЯ ШКОЛА ЭКОНОМИКИ»

Факультет бизнеса и менеджмента

оценка надёжности заёмщика банка в условиях неполноты информации

Выпускная квалификационная работа - МАГИСТЕРСКАЯ ДИССЕРТАЦИЯ

по направлению подготовки Бизнес-информатика

образовательная программа «Бизнес-информатика»

Щербаков Игорь Андреевич

Рецензент

к.т.н., доцент кафедры бизнес-аналитики Т. Я. Шевгунов

Научный руководитель к.э.н., доцент

кафедры бизнес-аналитики Т.К. Богданова

Москва 2018



Оглавление

Введение

Глава 1. Кредитная деятельность банка

1.1 Банковская деятельность

1.2 Кредитный риск

1.3 Информационная база управления кредитным риском

1.4 Постановка проблемы

Глава 2. Повышение эффективности использования исходных данных при моделировании кредитного риска

2.1 Общая концепция предлагаемого подхода

2.2 Логистическая модель оценки надёжности заёмщика

2.3 Использование WoE для преобразования данных

2.4 Автоматизация процесса преобразования данных

2.5 Реализация предлагаемого подхода

Глава 3. Моделирование надёжности заёмщика банка

3.1 Методика сравнительного анализа

3.2 Первый набор данных. Заявочный скоринг

3.3 Второй набор данных. Поведенческий скоринг

Заключение

Список использованной литературы

Приложение 1. Модели первого набора данных

Приложение 2. Второй набор данных

Введение

В данной работе рассматриваются существующие и предлагается новый подход к анализу и оценке надёжности заёмщика банка в условиях неполноты информации. Несмотря на высокую важность эффективного управления кредитным риском используемые подходы к оценке нередко работают неэффективно из-за присутствия в данных пропущенных значений и сложных зависимостей.

Актуальность данной работы состоит в оценке надёжности заёмщиков в условиях, негативно влияющих на эффективность статистических методов.

Объектом исследования является заёмщик банка.

Предмет исследования - надёжность заёмщика банка.

Цель исследования - оценка и прогнозирование надёжности заёмщика банка в условиях неполноты исходной информации и наличия нелинейной зависимости целевой переменной

Задачи:

· Подготовка информационной базы исследования

· Разработка подхода к предобработке данных

· Обработка пропущенных значений и нелинейных зависимостей с использованием предлагаемого подхода.

· Разработка моделей оценки надёжности заёмщика.

· Сравнительный анализ моделей, разработанных с использованием предлагаемого подхода и без него.



Глава 1. Кредитная деятельность банка

1.1 Банковская деятельность

Банковское дело является неотъемлемой частью экономики любого государства. Выполняя множество функций, банки обеспечивают протекание различных экономических процессов и являются посредниками между экономическими субъектами. Развиваясь вместе с мировой экономикой и торговлей, банковская сфера прошла долгий путь прежде чем приобрела свойственные ей сейчас форму и содержание.

История развития банковского дела

Начиная с древних времён обеспечение протекания общественной жизни порождало потребность в существовании посреднической деятельности, выражающейся во взаиморасчётах и денежном обращении.

В некоторых источниках можно встретить данные о банкирах в Вавилоне, принимавших вклады и выдававших ссуды под залог или письменное обязательство. Как отмечают историки, в VIII в. до н.э. Банк Вавилона принимал вклады, выдавал ссуды и даже выпускал банковские билеты. Особенно выделяют деятельность банкирского дома Игиби, чьи операции были весьма разнообразны. Этот банковский дом производил покупки, продажи и платежи за счёт клиентов; принимал денежные вклады; выдавал кредиты за что получал не процентный доход, а право на плоды урожая с полей должника; и выдавал ссуды под расписку или залог; часто выступал финансирующим органом в торговых предприятиях. Кроме осуществления финансовой деятельности, банкиры Игиби играли роль советчика и доверенного лица при составлении различных актов и сделок. Также ростовщичество и меняльное дело зародились в Вавилоне.

Помимо частных банкиров, денежные операции проводили храмы. По большей части они занимались хранением и сбережением средств, а также давали долгосрочные займы городам под определённый процент.

В Античности, когда преобладал натуральный обмен, наиболее характерными были натуральные займы. Так, например, в Греции - займы под аренду земли.

В Древнем Египте банковское дело контролировалось государством. Древнеегипетские банки помимо фискальной деятельности занимались также покупкой и продажей монет, выдачей ссуд и приёмом вкладов. Существует информация об их деятельности в качестве советников по управлению клиентскими имениями и переводами.

В Англии первыми банкирами были ремесленники, чья работа была связана с обработкой золота. Вскоре после того, как в торговых сделках в качестве расчётной единицы стали использовать золото, стало очевидно, что покупателям и торговцам неудобно и небезопасно работать с драгоценным металлом из-за необходимости обеспечения должной охраны и контроля за честностью проводимой операции (взвешивание золота, проверка его чистоты и т.д.). В связи с этим многие стали отдавать свои золотые сбережения на хранение в обмен на квитанцию. Вскоре товары стало возможно обменивать уже не на золото, а на квитанции хранящих его золотых дел мастеров.

С ростом доверия к бумажным квитанциям как к платёжному средству, полностью обеспеченному и заменяющему золото, частота востребования золота из хранилищ стала уменьшаться. Со временем у людей, обеспечивающих хранение вверенного золота возникло понимание, что количество выпущенных бумажных квитанций может превышать количество имеющегося золота. И тогда они стали направлять избыточные бумажные деньги в обращение, выдавая под проценты ссуды торговцам, производителям и потребителям. Так появилась банковская система частичного резервирования.

Первые банки возникли на рубеже XVI-XVII вв. Гильдии купцов ряда городов для проведения безналичных расчётов между своими клиентами создали жиробанки. Первый акционерный Английский банк был открыт в 1694 году и получил право выпуска банкнот. (Жарковская, 2010)

Регулирование банковской деятельности в современной экономике

С появления первых банков, мировая банковская система эволюционировала, расширяясь и приспосабливаясь к изменяющимся условиям. Экономические и политические процессы, вызванные продолжающейся глобализацией второй половины двадцатого века, привели к формированию банковской системы в её нынешнем виде. Расширение международной торговли, появление международных компаний и увеличение объёмов денежного обращения между странами поставило банковскую систему перед новыми вызовами.

В качестве реакции на участившиеся нарушения на международных валютных и банковских рынках в 1974 году управляющими центральных банков 10 стран был создан Комитет по банковскому регулированию и надзорной практике. Штаб-квартира комитета расположилась в Банке международных расчётов в швейцарском городе Базель, в связи с чем комитет в скором времени был переименован в Базельский комитет по банковскому надзору.

Целями создания комитета были обеспечение финансовой стабильности путём повышения качества банковского надзора во всём мире и создание площадки для обсуждения странами-членами проблем в сфере банковского надзора.

С момента основания Базельский комитет расширился с 10 стран-участниц до 45 и принял несколько ключевых документов, определяющих основные принципы функционирования национальных и международных банковских систем (сайт Банка международных расчётов).

Документы, регулирующие международную банковскую деятельность:

· Базельский Конкордат (1975 год) - документ, изложивший принципы распределения надзорной ответственности за иностранные филиалы банков, дочерние компании и совместные предприятия между принимающими и "домашними" контролирующими органами. Конкордат был позднее неоднократно пересмотрен и дополнен.

· Обмен информацией по финансовым рынкам между надзорными органами участников (1990 год) - документ, направленный на улучшение трансграничного обмена пруденциальной информацией между банковскими надзорными органами.

· Минимальные стандарты надзора за международными банковскими группами и их трансграничными учреждениями (1992 год) - переформулированы некоторые принципы Конкордата. Стандарт был предложен банковским надзорным органам, не входящим в Базельский комитет.

· Надзор за трансграничной банковской деятельностью (1996 год) - документ был разработан совместно с рабочей группой, в которую вошли представители стран, не являющихся членами комитета, и оффшорных зон. В документе представлены предложения по преодолению препятствий на пути эффективного консолидированного надзора за трансграничными операциями международных банков. Впоследствии, документ был одобрен надзорными органами 140 стран и помог наладить отношения между надзорными органами "домашней" страны и страны принимающей.

· Основные принципы эффективного банковского надзора (1997 год) - изначально включавший 25, а к 2012 году - 29 принципов эффективного функционирования банковского надзора, описывающих надзорные полномочия, необходимость скорейшего вмешательства и своевременных надзорных действий, надзорные ожидания банков и соблюдения надзорных стандартов.

Однако деятельность Базельского комитета по банковскому надзору не ограничивается регулированием международной банковской деятельности. Финансовые кризисы, возникающие по всему миру, привели к пониманию необходимости создания норм надзорной деятельности в национальных банковских системах, которые позволили бы предотвратить возникновение кризисов. Первой предпосылкой к этому стал долговый кризис в Латинской Америке начала 80-х годов двадцатого века. В результате изучения причин возникновения Латиноамериканского долгового кризиса Базельский комитет определил, что одним из ключевых условий сохранения финансовой стабильности банковских систем является обеспечение достаточности капитала. После этого деятельность по обеспечению достаточности капитала стала ключевой для Базельского комитета (сайт Банка международных расчётов). В рамках этой деятельности были выпущены несколько документов, ставших основополагающими для местных законодательств многих стран мира, в том числе и России:

· Базель I (1988 год) - документ впервые ввёл требование к достаточности капитала и определил минимальное допустимое отношение капитала к активам;

· Базель II (2004 год) - улучшены требования к нормативному капиталу, отражены финансовые инновации и заданы стимулы для дальнейшего совершенствования инструментов измерения и контроля рисков;

· Базель III (2010 - 2011 годы) - документ был принят после анализа причин и процессов мирового финансового кризиса 2008 года. Были ужесточены требования к капиталу банка и введены новые нормативные требования по ликвидности. Главной целью соглашения является повышение качества управления рисками.

Функции банков

Банковский сектор играет важную роль в современной экономике. Это объясняется значимостью и глубиной проникновения денежного обращения в современных реалиях. Поддержание стабильного уровня роста и обеспечение реализации всех возможностей рыночной экономики являются задачами банковского сектора. Сейчас банки выполняют несколько критически важных для экономики функций.

Прежде всего, банки выполняют функцию создания денег. Сам по себе кредитный механизм позволяет создавать безналичные деньги путём выдачи заёмных средств, объёмом превышающих объём вложенных средств. В некоторых случаях, например, в случае Центрального Банка России, банки имеют возможность создавать деньги и в наличной форме путём их эмиссии.

Следующая очень важная функция банков - распределительная. Она заключается в перераспределении средств между субъектами экономической деятельности путём принятия вкладов и выдачи займов. Благодаря этим видам деятельности свободные денежные ресурсы направляются туда, где они востребованы и приносят экономическую выгоду.

Также банки выполняют расчётную функцию. Сейчас банки участвуют в исполнении практически всех расчётов между экономическими субъектами. Платёжные системы не способны существовать без банков, которые не только обеспечивают расчёты, но и позволяют сделать их удобными и безопасными. Банковские услуги в этой сфере развиваются очень быстро, и банки готовы предлагать всё новые способы проведения операций, обеспечивая себе конкурентное преимущество.

Банки обеспечивают реализацию многих функций связанных с регулированием процессов, происходящих в экономике. Посредствам банковской системы производится воздействие на экономику проведением той или иной кредитно-денежной политики, эмиссионных операций и использованием специальных методов банковского регулирования. К таким методам относятся учётная политика, обязательное резервирование и валютный контроль.

Банки выступают посредниками при совершении экономическими субъектами различных операций и помогают тем ориентироваться в широком спектре экономических инструментов и финансовых услуг. (Жарковская, 2010)

Банковские риски

Основной целью деятельности банка, как любой коммерческой структуры, является получение прибыли, стремление получить которую ограничивается ожиданиями возможных потерь. Это связано с существованием риска как возможного события, ведущего к экономическим потерям. Понятие риска очень многогранно. Согласно определению, даваемому толковыми словарями экономических терминов, риск - ситуация, в которой результат действий неочевиден и неоднозначен, и имеющая несколько возможных исходов (Блэк, 2000). В банковском деле риск - вероятность наступления события, которое негативно скажется на его прибыли или капитале. Различные виды банковских рисков обуславливаются уровнем их возникновения, а также внутренними и внешними факторами, оказывающими влияние на деятельность банка. (Жарковская, 2010)

Из-за тесной связи банковской деятельности и банковских рисков существует множество возможных способов их классификации. Например, риски можно классифицировать в зависимости от уровня источников их возникновения. В таком случае выделяются:

· Риски макроуровня - определяемые внешними условиями макроэкономической деятельности;

· Внешние риски - связанные с изменением ситуации в экономике и не зависящие от деятельности банка;

· Риски микроуровня - риски предопределяемыми как внешними параметрами, так и внутренними. Реализация рисков такого типа связанна с принимаемыми банком решениями;

· Индивидуальные риски - риски, обусловленные уровнем добропорядочности сотрудников банка.

Наиболее значимыми и при этом регулируемыми рисками для банка являются риски микроуровня, возникновение и реализация которых, по своей сути, показывает эффективность принимаемых менеджментом банка решений. Среди рисков микроуровня выделяют восемь основных видов (Жарковская, 2010):

· Кредитный риск

· Страновой риск

· Рыночный риск

· Операционный риск

· Процентный риск

· Риск потери ликвидности

· Правовой риск

· Репутационный риск

Основным банковским риском является кредитный. Он обуславливается неспособностью или нежеланием контрагента банка выполнять взятые на себя обязательства. Кредитный риск возникает при совершении кредитных сделок, операций с финансовыми инструментами, при выдаче гарантий и прочих видах операций. Примером кредитного риска может служить ухудшение финансового положения заёмщика, повлекшее за собой его неспособность платить по взятым обязательствам.

Страновой риск - вероятность потерь, обусловленная деятельностью или размещением активов в конкретном государстве. Этот вид риска включает в себя многие риски, связанные с политической, экономической и социальной жизнью в стране. Одним из примеров такого вида риска является недоступность валюты, в которой был выдан займ, на территории страны заёмщика, в следствие чего тот не способен выполнять обязательства независимо от своего финансового положения.

Рыночный риск возникает вследствие непредвиденных и неблагоприятных изменений на финансовом, валютном, кредитном или иных рынка. Так этот риск может реализоваться в случае изменения стоимости активов, например, ценных бумаг, приобретённых раннее банком

Операционный риск возникает из-за возможных нарушений внутребанковской деятельности, контроля и управления. Кроме того, к операционным рискам относятся возможные сбои в работе информационных систем и оборудования. Примером операционного риска являются мошеннические действия сотрудников.

Процентный риск для банка заключается в неблагоприятном изменении процентных ставок на кредитном и финансовом рынке. Так, например, при повышении ключевой ставки банк несёт потери по выданным ранее по низкой ставке ипотечным займам.

Риск ликвидности напрямую связан с принципом банковской деятельности и является базовым для банка. Обусловлен он несоответствием требований и обязательств банка по суммам и срокам. Например, данный риск возникает, если банк выдаёт множество "долгих" ипотечных кредитов и фондирует их за счёт краткосрочных вкладов. В таком случае может возникнуть ситуация, когда вкладчики уже захотят забрать свои средства, а заёмщики ещё не расплатятся по долгам, что приведёт к отсутствию у банка средств для осуществления выплат.

Правовой риск представляет собой увеличение обязательств или сокращение требований банка, вызванное неправильными юридическими решениями. Также правовой риск включает в себя изменение законодательства прямо или косвенного затрагивающее интересы банка и его клиентов. Правовой риск реализуется в случае вступления в силу закона, ограничивающего банковскую деятельность или в случае ошибки в договоре, позволяющей клиенту производить недобросовестные действия, наносящие ущерб банку.

Репутационный риск связан с операционными сбоями в его работе, возникновении подозрений в недобросовестности банка и пр. Потеря репутации критичная для банков, потому что природа их деятельности требует поддержания доверия со стороны, кредиторов, заемщиков и рынка в целом. Так, например, слухи о скором банкротстве банка могут повлечь за собой увеличение оттока вкладчиков, что неминуемо приведёт к реализации других видов рисков и негативно скажется финансовом положении банка.

1.2 Кредитный риск

Согласно определению, даваемому Базельским комитетом по банковскому надзору, кредитный риск - вероятность невыполнения заёмщиком своих платёжных обязательств. Он включает в себя как неопределённость по выплатам в целом, так и в их своевременности. (BCBS, 2000)

Целью управления кредитным риском является максимизация скорректированной на риск нормы прибыли банка путём поддержания уровня потенциальных потерь от кредитного риска в рамках приемлемых значений. Банкам необходимо управлять как кредитным риском портфеля, так и отдельных сделок и операций. Эффективное управление кредитным риском является важнейшим компонентом комплексного подхода к управлению рисками и играет критическую роль в долгосрочном успехе банковской организации.

Поскольку подверженность кредитному риску по-прежнему является основным источником проблем в банках по всему миру, банкам следует, согласно рекомендациям Базельского Комитета по банковскому надзору, идентифицировать, измерять, мониторить и контролировать кредитный риск, а также обладать достаточным уровнем капитала и получать соответствующую компенсацию за принимаемые риски. (BCBS, 2000) (Морсман, 2005)

Подходы к оценке кредитного риска

Понимание важности эффективного управления кредитным риском для обеспечения устойчивости и надёжности банков стало основным движущим фактором создания и развития различных подходов к их оценке. Первым стандартом, выпущенным Базельским комитетом по банковскому надзору, дающим рекомендации по управлению кредитным риском стало соглашение Базель I 1988 года. Базель I предусматривал достаточность капитала на уровне 8% от взвешенных по риску объёмов активов. (BCBS, 1988) Однако с развитием международного взаимодействия и банковского сектора во всём мире потребовалось усовершенствование регуляторных рекомендаций. Вышедшая в 2004 году "Международная конвергенция измерения капитала и стандартов капитала: новые подходы" (Базель II) предусматривала два подхода к оценке кредитного риска. Одним из них является Стандартизованный Подход, согласно которому банки должны использовать рейтинги внешних кредитных рейтинговых агентств для количественной оценки требуемого капитала. Стандартизованный Подход предусматривает учёт типа заёмщика и присвоенного ему кредитного рейтинга при расчёте рискового весового коэффициента. Альтернативной методологией является использование банками собственных, внутренних рейтинговых систем для оценки рисков по заёмщикам. (BCBS, 2004)

Подход на основе внутренних рейтингов предполагает возможность использования, с разрешения регулятора и при соблюдении требований к шкалам оценивания, банками внутренних оценок компонентов некоторых компонентов риска. Всего выделяется три компонента кредитного риска: вероятность дефолта (PD, англ. - Probability of Default), доля потерь в случае дефолта (LGD, англ. - Loss Given Default), сумма под риском в случае дефолта (EAD, англ. - Exposure at Default) и реальный срок погашения (M, англ. - Maturity). В свою очередь, подход на основе внутренних рейтингов может быть базовым и продвинутым. Базовый подход предполагает самостоятельную оценку банком только вероятности дефолта, значения остальных компонентов риска устанавливается регулятором. В продвинутом подходе банк самостоятельно оценивает все компоненты кредитного риска. Тем не менее, в обеих версиях подхода на основе внутренних рейтингов банки должны соблюдать требования регуляторов, предъявляемые к выставляемым оценкам. (BCBS, 2004) (Bhatia, 2006)

Регуляторные требования к оценке кредитного риска

Согласно рекомендациям Базельского комитета по банковскому надзору банки, оценивающие кредитные риски с использованием подхода на основе внутренних рейтингов, должны выполнять требования регуляторов по получаемым оценкам. Так в Соединённых Штатах Америки регулятором финансового рынка и деятельности банков является Федеральная Резервная Система (Iden, 1914), в России - Центральный Банк Российской Федерации (закон № 86-ФЗ, Конституция РФ).

Статья 75 Конституции Российской Федерации устанавливает особый правовой статус Центрального Банка Российской Федерации и закрепляет за ним исключительное право эмиссии рубля. Федеральный закон № 86-ФЗ определяет основные цели Банка России:

· защита и обеспечение устойчивости рубля;

· развитие и укрепление банковской системы России;

· обеспечение стабильности и развитие национальной платёжной системы;

· развитие финансового рынка Российской Федерации;

· обеспечение стабильности финансового рынка Российской Федерации.

Положение банка России "О порядке расчета величины кредитного риска на основе внутренних рейтингов" создало правовую базу и позволило запустить механизм перехода российских банков на использование продвинутого подхода к оценке кредитных рисков, основанного на использовании внутренних рейтингов. Оно же ввело ряд требований и ограничений, предъявляемых к рейтинговым системам, моделям и процедурам, используемым для количественной оценки компонентов кредитного риска. Требования регулятор могут быть разделены на четыре основные категории: общие требования, требования к документированию, требования к используемым данным и требования к используемым моделям и получаемым оценкам (положение Банка России № 483-П). Ниже приводятся ключевые требования из этих категорий.

Общие требования:

· оценки пересматриваются не реже раза в год

· учитываются любые изменения в практике кредитования

Требования к документированию:

· определяются правила расчёта просроченных дней кредитного требования

· описываются признаки дефолта.

Требования к моделям и оценкам:

· оценка производится на основании статистических данных, а не основана на экспертном суждении

· оценки основаны на существенных факторах

· модель должна тестироваться как на данных вне обучающей выборки, так и на данных вне периода времени, использованного для обучения

· не допускаются корректировки оценок в сторону снижения риска

· минимальная оценка суммы под риском дефолта не может быть ниже суммы долга на момент оценки

· минимальная оценка вероятности дефолта не может быть ниже 0,03%

· определены порядок и критерии отнесения кредитных требований к разрядам рейтинговой шкалы

Требования к используемым данным:

· количество наблюдений и период времени достаточны для формирования оценок

· данные для обучения должны включать в себя периоды экономического спада

· используется вся существенная информация

· используемые данные являются репрезентативными (соответствуют портфелю)

1.3 Информационная база управления кредитным риском

Основные источники информации:

· Заявка клиента

· Поведенческие характеристики (платёжная дисциплина по продуктам банка)

· Кредитная история (кредитные бюро)

· Внешние оценки (рейтинговые агентства)

Однако не редко собранные данные имеют пропуски, возникшие по тем или иным причинам, что влечёт за собой снижение эффективности применения статистических моделей.

Зависимости между объясняющей и целевой переменной могут иметь сложные, нелинейные формы. В следствие чего построение линейных моделей может быть высоко ресурсозатратным или вовсе неэффективным. Однако построение сложных нелинейных моделей с использованием методов машинного обучения может идти в разрез с требованиями регуляторов.

Интерпретируемые модели

К интерпретируемым методам анализа данных относятся те методы, которые позволяют восстановить рассуждение компьютерной системы и пересказать эти рассуждения человеку, чтобы человек мог понять, как получен результат анализа данных. К таким методам принадлежат модели линейной и логистической регрессии и деревья решений, неинтерпретируемыми моделями являются ансамбли деревьев и нейронные сети.

Согласно Указанию Банка России от 15 апреля 2015 года, N 3624-У "О требованиях к системе управления рисками и капиталом кредитной организации и банковской группы" должны быть установлены внутренние системы, позволяющие оценивать точность и последовательность функционирования моделей количественной оценки кредитного риска (N 3624-У, п. 2.3 Приложения 1), что означает, что критерии принятия решений на основании модельных оценок, должны быть интерпретируемы и понятны. Наличие данного регуляторного ограничения на природу используемых моделей количественной оценки кредитного риска сужает спектр возможных для применения подходов и алгоритмов.

Пропуски в данных

Наличие в данных пропущенных значений широко распространено и может стать реальной проблемой, не позволяющей строить удовлетворяющие требованиям модели оценки компонентов кредитного риска. Пропуски могут иметь разную природу возникновения и, соответственно, разные способы их обработки.

Причины пропусков в данных

Существует несколько возможных предположений о причинах пропусков в данных.

Полностью случайные пропуски (англ. Missing completely at random (MCAR)) - пропуски значений переменной Y никак не связаны с действительными значениями переменной Y и значениями других переменных в наборе данных. Тем не менее, допускается возможность зависимости пропусков в Y от пропусков в X.

Пример: в случае проведения исследования зависимости дохода от возраста предположение о полностью случайных пропусках будет отвергнуто, если респонденты, отказавшиеся отвечать на вопрос о доходе в среднем были младше тех, кто на вопрос ответил. (Soley-Bori, 2013).

Случайные пропуски (англ. Missing at random (MAR)) - более слабое предположение, чем MCAR. Вероятность появления пропущенного значения в переменной Y не зависит от значения Y после устранения влияния других переменных в наборе данных (Х), то есть . (Allison, 2001).

Пример: Предположение о случайных пропусках выполняется, если пропуски в данных о доходе зависят от возрастной группы респондента, но в пределах каждой группы распределены случайно, независимо от реального значения дохода. (Soley-Bori, 2013).

Неслучайные пропуски (Not missing at random (NMAR)) - наличие пропусков зависит от ненаблюдаемых переменных.

Например, если люди, с более высоким доходом, чаще отказываются отвечать на вопрос о доходе. (Soley-Bori, 2013).

Если выполняется предположение о случайности пропусков, то причины их возникновения можно игнорировать и не включать моделирование пропущенных значений в процесс построения моделей. Если же предположение по случайности пропусков не подтверждается, то для получения хороших модельных значений потребуется проводить моделирование и заполнение пропусков, что требует хорошего понимания процесса появления пропущенных значений. (Soley-Bori, 2013).

Паттерны распределения пропусков в данных

Выделяют два основных паттерна распределения пропусков (SAS Institute, 2005; Soley-Bori, 2013).

Монотонное распределение - распределение пропусков называется монотонным, если после применения сортировки наблюдений удаётся обнаружить шаблон распределения ошибок.

Произвольное распределение - если сортировки, после которой распределения ошибок приобретает тот или иной вид, нет, то распределение ошибок называется произвольным.

Методы обработки пропусков в данных

Предполагаемые причины и характер пропусков играют важную роль при выборе методов борьбы с пропусками. Среди методов обработки данных выделяют традиционные и продвинутые (Soley-Bori, 2013).

Традиционные методы

Удаление (англ. Listwise deletion) - если наблюдение содержит пропуск хотя бы в одной из переменных, оно исключается из выборки. Достоинства этого метода заключаются в отсутствии любых вычислений и возможности применения совместно с любым методом статистического анализа. Однако это может привести к сильному сокращению выборки.

Заполнение - пропуски в данных заполняются тем или иным значением. Значение, которым будут заполнены пропуски может быть выбрано различными способами.

Первый из них - заполнение пропусков средним значением переменной, рассчитанным по тем наблюдениям, где её значение не пропущено. Главный недостаток этого метода - смещённые оценки дисперсии.

Второй - заполнение пропусков оценками значений переменной, полученными путём построения регрессионной модели от других переменных.

Общий недостаток всех подходов с заполнением пропусков - занижение стандартных ошибок и, как следствие, завышение значимости. (Soley-Bori, 2013).

Продвинутые методы

Множественная вставка (англ. Multiple Imputation)

Вставляемые значения случайным образом извлекаются из распределения и по своей сути содержат дисперсию. Таким образом множественная вставка решает ограничения одиночной вставки путём введения дополнительной ошибки, основанной на изменчивости параметров вставки. Этот способ заменяет каждый пропуск двумя или более допустимыми значениями, представляющими собой распределение возможных значений.

Множественная вставка является процедурой на основе моделирования. Её цель заключается не в воссоздании отдельных отсутствующих значений, как можно ближе к истинным, а в обработке пропущенных данных для достижения достоверных статистических выводов

Преимуществами этого подхода является возможность его применения к любым данным с использованием традиционного программного обеспечения. В случае наличия в данных случайных пропусков множественная ставка позволяет получить устойчивые, асимптотические эффективные и нормальные оценки реальных значений пропущенных элементов.

Одним из недостатков множественной вставки является тот факт, что при каждом применении к данным получаемые оценки значений пропусков являются случайным и необязательно совпадают с предыдущими применениями (Soley-Bori, 2013).

Максимальное правдоподобие (англ. Maximum Likelihood)

Этот метод может быть использован для получения матрицы ковариаций для переменных в модели на основе всех доступных данных с последующим её использованием для оценки регрессионной модели. По сравнению со множественной вставкой метод максимального правдоподобия требует меньшего количества вычислений. Существует две возможные реализации этого подхода:

· Прямая максимизация правдоподобия, заключающаяся в максимизации многомерной нормальной функции правдоподобия для предполагаемой линейной модели;

· Алгоритм максимизации ожиданий, заключающийся в получении оценок средних и матрицы ковариации, которые могут быть использованы для получения согласованных оценок интересующих параметров (Allison, 2001).

Байесовские методы моделирования (англ. Bayesian simulation methods)

Алгоритм Шафера использует байесовские итерационные методы моделирования для приведения наборов данных, предполагающих MAR. А именно, он разбивает многомерную задачу пропущенных значений на ряд одномерных задач, основанных на предполагаемом распределении многомерных пропущенных переменных (например, многомерное нормальное для непрерывных переменных, мультиноминальная логлинейная для категориальных). Другими словами, он использует итеративный алгоритм, который выводит образцы из последовательности одномерных регрессий (Soley-Bori, 2013).

Алгоритм Ван Бюрена - полупараметрический подход. Параметрическая часть подразумевает, что каждая переменная имеет отдельную модель вменения с набором предикторов, которые объясняют недостаток. Непараметрическая часть подразумевает спецификацию соответствующей формы (например, линейной), которая зависит от вида переменных (Briggs et al., 2003) (Soley-Bori, 2013).

Метод «вменённых ответов» (англ. Hot deck imputation methods)

Данный метод используется Бюро по переписи населения США. Его суть заключается в заполнении пропусков значениями переменной выбранными случайным образом из значений переменной в похожих наблюдениях. (Briggs, 2003) (Soley-Bori, 2013).

Наличие нелинейных зависимостей

Зависимость значения компонента кредитного риска от объясняющих переменных может быть нелинейной.

Наличие нелинейных зависимостей усложняет построение интерпретируемых, интуитивно понятных моделей. Это связано с тем, что в процессе разработки таких моделей возникает необходимость преобразовывать исходные данные путём применения различных математических инструментов: группировки, функциональных преобразований и прочего. Некоторые зависимости может быть невозможно описать функционально с достаточной для моделирования точностью.

1.4 Постановка проблемы

Осуществление банковской деятельности неразрывно связано с необходимостью проведения эффективного управления рисками. В системе риск-менеджмента одну из ключевых ролей, в силу ряда причин, играет управление кредитными рисками.

Оценка кредитных рисков является критически важной задачей для каждой кредитной организации. Это вызвано как стремлением организации максимизировать прибыль от своей финансово-кредитной деятельности, так и требованиями регулятора поддерживать достаточный уровень резервов, гарантирующих стабильность работы организации.

Несмотря на готовность кредитных организаций вкладывать ресурсы в развитие собственных систем оценки рисков и использовать передовые методы оценки и прогнозирования с использованием машинного обучения и искусственного интеллекта, спектр применяемых инструментов ограничен. Это ограничение обусловлено регуляторными требованиями к интерпретируемости и прозрачности применяемых моделей. В Свою очередь использование традиционных алгоритмов и подходов для построения моделей оценки кредитного риска затруднено наличием в статистических данных пропусков и нелинейных зависимостей.

Кредитные организации и регуляторы заинтересованы в повышении качества управления кредитными рисками. Однако, вследствие того, что используемые подходы к анализу и оценке надёжности заёмщиков имеют ряд недостатков и ограничений, обусловленных как проблемами с исходной информацией, так и установленными правилами применения, результаты оценки надёжности не всегда достаточно качественны и точны. Данная работа направлена разработку подхода к анализу и оценке надёжности заёмщика, который, удовлетворяя все регуляторные требования, позволял бы также повысить эффективность и качество получаемых оценок.



Глава 2. Повышение эффективности использования исходных данных при моделировании кредитного риска

2.1 Общая концепция предлагаемого подхода

Подход заключается в автоматизированном преобразовании исходных данных, позволяющим решить проблему наличия пропущенных значений и сложных нелинейных зависимостей на этапе разработки модели и автоматизированном преобразовании данных на этапе применения полученной модели.

Основным инструментом преобразования данных является замена исходных переменных на суррогатные WoE-факторы. В качестве метода автоматизации поиска способа трансформации исходных данных предлагается использовать деревья решений. Дальнейшая трансформация данных при использовании модели может быть автоматизирована путём программной реализации полученных на этапе разработки правил преобразования. Ниже приводятся схемы применения предлагаемого подхода на обучающей (Рисунок 1) и тестовой (Рисунок 2) выборах.

Рисунок 1. Схема применения подхода на обучающей выборке

Рисунок 2. Схема применения подхода на тестовой выборке

2.2 Логистическая модель оценки надёжности заёмщика

При оценке надёжности заёмщика оценивается вероятность наступления в течение определённого времени (как правило года) события, когда заёмщик не сможет или откажется выполнять свои обязательства по кредитному договору, - дефолта. Записывая формально, можно представить это событие следующим образом. Если y - признак дефолта, а x - вектор характеристик, описывающих заёмщика, то событие дефолта - y=1.

В заданных условиях оценка вероятности наступления события дефолта может быть получена с использованием модели логистической регрессии (Hosmer, 2000), основывающейся на предположении что:

(2.2_1)

где

- логистическая функция

- оценка регрессии

То есть

(2.2_2)

Легко показать:

(2.2_3)

И

(2.2_4)



Таким образом модель логистической регрессии определяет линейную зависимость между характеристиками заёмщика (элементами вектора х) и логарифмом шанса наступления события дефолта.

2.3 Использование WoE для преобразования данных

Для преобразования исходные данные могут быть трансформированы и переведены в WoE-факторы.

Концепция WoE и критерий информативности

Общий механизм перехода к WoE факторам следующий:

1. Берётся первая объясняющая переменная, разбивается на бины (бакеты)

2. Для каждого бина вычисляются доли, попавших в него хороших и плохих наблюдений (доли от общего числа хороших и плохих соответственно), равные по сути вероятности попадания наблюдения в данный бакет при принадлежности к заданному классу.

3. Для каждого бина вычисляется логарифм отношения долей равный значению нового WoE-фактора

(2.3_1) (Good, 1974)

Здесь и далее для удобства и однозначности введём следующее обозначение принадлежности объекта тому или иному классу в терминах гипотез:

(2.3_2)

Тогда формула (2.3_1) принимает вид:



(2.3_3)

Обозначив число наблюдений, относящихся к классу k, в бакете i - и общее число элементов класса k - , из формулы (2.3_3) получим:

(2.3_4)

Покажем на примере. Пусть решается задача заявочного кредитного скоринга клиентов. В выборке 4380 наблюдений, 180 из которых дефолтные. Объясняющая переменная одна - возраст. Разобьём объясняющую переменную на бины и посчитаем соответствующие WoE, используя формулу (2.3_4). В таблице ниже (Таблица 1) приведены результаты разбиения и расчёта.

Таблица 1. Пример вычисления WoE

Возраст	Число дефолтов ("плохих")	Число не дефолтов ("хороших")	Доля "плохих"	Доля "хороших"	Отношение долей	WoE
18-24	50	700	27,78%	16,67%	1,667	0,5108
25-44	30	1500	16,67%	35,71%	0,467	-0,7621
45-60	14	900	7,78%	21,43%	0,363	-1,0135
61-70	41	600	22,78%	14,29%	1,594	0,4665
70+	45	500	25,00%	11,90%	2,100	0,7419
Все	180	4200	100%	100%



Рисунок 3 - Пример вычисления WoE. Диаграмма

Для оценки выбранного разбиения применяется критерий информативности, вычисляемый следующим образом (Siddiqi N., 2006, стр. 81):

(2.3_5)

Или, используя формулу (2.3_4):

(2.3_6)

Важно отметить, что оценивается качество разбиения с точки зрения предсказательной силы, то есть определяется также и предсказательная сила переменной в целом.

Значения критерия информативности лежат в промежутке от 0 до 1, чем выше значение критерия, тем лучше выбранное разбиение. В таблице ниже (Таблица 2) приведены пороговые значения для интерпретации IV (Siddiqi N., 2006, стр. 81)

Таблица 2. Пороговые значения IV

Значение IV	Качество разбиения (эффективность для предсказания)
<0.02	Бесполезный предиктор
[0.02;0.1)	Слабый предиктор
[0.1; 0.3)	Средний предиктор
[0.3; 0.5)	Сильный предиктор
>0.5	Подозрительно сильный предиктор

IV для рассмотренного примера:

Возраст	Доля "плохих"	Доля "хороших"	Разность долей	WOE	Разность * WoE
18-24	27,78%	16,67%	0,11111	0,510826	0,056758
25-44	16,67%	35,71%	-0,19048	-0,76214	0,14517
45-60	7,78%	21,43%	-0,13651	-1,01345	0,138345
61-70	22,78%	14,29%	0,08492	0,466525	0,039618
70+	25,00%	11,90%	0,13095	0,741937	0,097158
IV	0,477049

IV=0.477049 показывает, что выбранное разбиение имеет высокую предсказательную силу.

Последствия применения WoE

Плюсы

ВОЕ сочетает в себе плюсы различных подходов.

· Прежде всего, вое позволяет не удалять наблюдения с пропущенными значениями, тем самым сохраняя объём выборки максимальным.

· Тот факт, что пропущенные значения не заменяются на нули, как в примере с суммой просроченной задолженности, позволяет минимизировать риск негативного влияния проблем в первоисточнике на оценку параметров. Переход к использованию априорных вероятностей позволяет учесть риск того, что поле не заполнено в следствие ошибки, и производит привязку значения (даже пропущенного) к вероятности наступления события, преобразуя сырые числа в значащие признаки

· Применение WoE позволяет находить и учитывать нелинейную связь с объясняющей переменой. При чём связь может быть сложно нелинейной.

· Значение WOE является стандартизованным показателем, что позволяет легко сравнивать влияние различных групп (бинов) в пределах переменной и между переменными.

· Позволяет избавиться от выбросов и разреженных данных

Минусы

Однако есть и минусы:

· Разбиение переменной на бины влечёт за собой снижение дисперсии и количества информации

· Оценка влияния исходной переменной сильно зависит от выбранного разбиения

· Приведение переменных к WoE скрывает корреляции между объясняющими переменными, однако, если корреляции между преобразованными WoE-факторами нет, то в построенной на них модели последствия мультиколлинеарности не проявляются.

WoE в логистической регрессии

При применении woe-трансформации уравнение регрессии (2.2_3) принимает вид:

(2.3_7)

Тогда с учётом противоположности гипотез преобразуем (2.3_7) и получим:

(2.3_8)



Как показали в своей работе Osteyee D.B. и Good I.J. (Good, 1974, стр. 11-12):

(2.3_9)

Учитывая, что гипотезы противоположны, преобразуем (2.3_9):

(2.3_10)

Тогда, подставив выражение (2.3_10) в (2.3_8), преобразуем:

(2.3_11)

Преобразуем (2.3_11):

(2.3_12)

И выразим из (2.3_12), получив оптимизационную задачу, решаемую моделью логистической регрессии при использовании WoE-факторов в качестве предикторов:

(2.3_13)

Получается задача предсказания логарифма условных шансов наступления события от логарифмов условных шансов наступления события для каждой компоненты вектора факторов.

Сама по себе задача, в которой логарифм шанса зависит от логарифмов шансов, выглядит неплохо, потому что полностью решается проблема размерностей и логики трактовки коэффициентов в модели.

2.4 Автоматизация процесса преобразования данных

Дерево решений в задачах классификации

Одним из алгоритмов, используемых в статике и анализе данных для классификации объектов, является дерево принятия решений или решающее дерево. Принцип работы данного алгоритма достаточно прост: на основании элементов в обучающей выборке строится иерархическая структура или, другими словами, ориентированный граф, рёбра которого, называют «ветками», а вершины, лежащие на низшем уровне иерархии, - «листьями». В решающем дереве на его «ветках» отмечают атрибуты, от которых зависит целевая функция, на «листьях» отмечают значения целевой функции, а на остальных вершинах - атрибуты, по которым рассматриваемые случаи различаются. Каждая вершина графа, за исключением листьев, производит разделение обучающей выборки на n подвыборок по значению одного из признаков (чаще всего, если признак не категориальный, производится разбиение на 2 подвыборки). В качестве условия разбиения для некатегориальных признаков используется сравнение вида , где - j-й признак, t - порог разбиения.



Рисунок 4. Пример дерева решений

При построении решающих деревьев используют «жадный» способ построения от корня к листьям. Сначала выбирается «корень», разбивающий всю попавшую в него выборку на n подвыборок, затем его дочерние элементы разбивают свои выборки на n-подвыборок и так далее, пока не будет построено окончательное дерево.

Как было показано выше, для разбиения выборки используется сравнение одного из признаков с пороговым значением: . Для решения задачи поиска оптимального критерия и порога разбиения производится минимизация критерия ошибки , где - подвыборка, попавшая в вершину m. После того, как параметры j и t были выбраны, выборка разбивается на две подвыборки: и . Этот процесс разбиения может продолжаться бесконечно, формируя и пустые листья, если его не остановить, для этого вводят критерии останова. Распространёнными критериями останова при построении решающих деревьев являются глубина дерева и численность элементов в узле. Так, при использовании первого подхода разбиение узла не производится, если тот достиг заданного уровня глубины - удаления от корня в иерархичной структуре. При использовании второго подхода разбиение узла не производится, если численность попавших в него элементов меньше либо равна заданному значению. После того, как вершина не была поделена и была объявлена листом на ней вычисляется прогноз по классу, если необходимо однозначное указание класса листа, выбирается тот класс, объекты которого чаще всего встречаются в данном листе: . Если на листе необходимо указать вероятность классов, то её можно получить, как долю объектов классов в : . (Rokach L. 2015)

Дерево решений для получения WoE разбиения

В этом пункте рассматриваются однофакторные деревья решений, природа которых - разделение объясняющего фактора на промежутки со схожими свойствами целевой переменной.

Функционал деревьев решений

При поиске разбиения каждого следующего узла в дереве решений может оптимизироваться один из следующих функционалов.

Первый - индекс Джини, используемый алгоритмами CART (Breiman L, 1984):

(2.4_1)

Второй - получаемая информация (Information gain), используемый в алгоритмах ID3, C4.5 и C5.0, основанный на понятии энтропии (Mitchell Tom M., 1997)

Энтропия в теории информации вычисляется следующим образом (Shannon C, 1948):

(2.4_2)

где

,

,

.

Тогда выигрыш информации (Witten I, 2011):

(2.4_3)

где ,

.

То есть в данном случае задача сводится к минимизации энтропии потомков.

Связь функционала с WoE и IV.

Несложно заметить, что оба приведённых функционала зависят от вероятности принадлежности объекта в узле тому или иному классу (). Выпишем частные случаи функционалов - функционалы в задачах двуклассовой классификации.

Из (2.4_1) получим:

(2.4_4)

Из (2.4_2):

(2.4_5)

Запишем функционалы в терминологии, использованной в разделе 2.3 работы. Тогда из (2.4_4) и (2.4_5) получим соответственно:

(2.4_6)



И

(2.4_7)

Анализируя рассмотренные функционалы ((2.4_6) и (2.4_7)), несложно заметить, что алгоритмы построения деревьев решений, использующие их, стремятся найти разбиение, минимизирующее уровень неопределённости касательно принадлежности элементов в получаемых узлах тому или иному классу.

Возвращаясь к приведённым в разделе 2.3 выражениям для вычисления WoE (2.3_3) и IV (2.3_5), также можно заметить, что модуль WoE и соответственно IV тем больше, чем выше разница между и , что соответствует уменьшению неопределённости о принадлежности объекта тому или иному классу.

Таким образом, из выше изложенного следует, что алгоритмы построения деревьев, использующие рассмотренные функционалы, стремясь уменьшить информационную энтропию в генерируемых узлах, получают также и WoE-оптимальное разбиение с максимальным критерием информативности. Следовательно, для поиска оптимального разбиения возможно использование деревьев решений.

2.5 Реализация предлагаемого подхода

Весь процесс применения подхода можно разделить на 2 этапа: разработка модели и применение модели.

Этап разработки покрывает собой процесс создания модели-классификатора и состоит из 3 шагов:

1. Поиск оптимальных разбиений и расчёт WoE для бакетов на исходных данных.

2. Преобразование исходных данных путём замены исходных переменных на WoE-факторы.

3. Построение классификатора на WoE-факторах.

Этап применения модели включает в себя все действия, связанные с применением полученного классификатора к данным, на которых тот не обучался, в том числе тестирование и промышленную эксплуатацию. В рамках применения модели последовательно выполняются следующие шаги:

1. Данные преобразуются согласно полученным на этапе разработки правила разбиения

2. Преобразованные данные используются для получения модельных оценок

Ниже более подробно описываются алгоритмы и ограничения каждого из этапов.

Условия и ограничения при поиске разбиения

При построении разбиения важно учитывать ряд ограничений, которые могут стоять в рамках решаемой задачи. Рассматриваемые в данном пункте ограничения могут носить как повсеместный и обязательный характер, так и быть опциональными, устанавливаемыми управленческими решениями и экспертно.

К обязательным ограничениям относится ограничение на количество наблюдений в одном бакете. Очевидно, что малое число наблюдений в том или ином бакете может привести к очень высокому по модулю значению WoE, что заставит на предварительном этапе предполагать, что рассматриваемая объясняющая переменная является сильным предиктором. Тем не менее, малое количество наблюдений в бакете не позволяет предполагать, что разбиение стабильно, не произошло переобучения и значение WoE оправдано. В связи с этим при построении деревьев решений для поиска оптимального разбиения целесообразно устанавливать ограничение на минимальное количество элементов в одном узле порядка 5-10% от общего числа наблюдений, в зависимости от объёма выборки.