Размещено на http://www.allbest.ru/

ОДЕСЬКА ДЕРЖАВНА АКАДЕМІЯ ХОЛОДУ

УДК 621.560+57:536.48

Автореферат

дисертації на здобуття наукового ступеня

кандидата технічних наук

МОДЕЛЮВАННЯ ТЕРМОДИНАМІЧНИХ ПРОЦЕСІВ ЗАМОРОЖУВАННЯ ТА ОБЕЗВОДНЕННЯ БІОЛОГІЧНИХ ОБ'ЄКТІВ

Спеціальність: 05.04.03- Холодильна та кріогенна техніка, системи кондиціювання

МУССАУІ ХУССЕЙН АЛІ

Одеса - 1999 р.

Дисертацією є рукопис.

Робота виконана в Одеській державній академії холоду Міністерства освіти України.

Науковий керівник:

Мазур Віктор Олександрович, доктор технічних наук, професор, Одеська державна академія холоду, завідувач кафедрою термодинаміки, проректор з наукової роботи.

Офіційні опоненти:

Наєр В'ячеслав Андрійович, доктор технічних наук, професор, Одеська державна академія холоду, завідувач кафедрою кріогенної техніки, лауреат Державної премії України;

Мостицький Андрій Васильович, кандидат технічних наук, старший науковий співробітник, НПО "Дніпро - МТО", м. Київ, генеральний директор.

Провідна установа: Одеська державна академія харчових технологій ім. М.В. Ломоносова Міністерства освіти України.

Захист відбудеться "29" вересня 1999 г. об 11 годині на засіданні спеціалізованої вченої ради Д 41.087.01 при Одеській державній академії холоду (ОДАХ) за адресою: 270026, м. Одеса, вул. Дворянська, 1/3.

З дисертацією можна ознайомитись у бібліотеці ОДАХ за адресою: м. Одеса, вул. Дворянська, 1/3.

Автореферат розісланий "28" серпня 1999 р.

Вчений секретар спеціалізованої вченої ради Р.К. Нікульшин.

ЗАГАЛЬНА ХАРАКТЕРИСТИКА РОБОТИ

Актуальність роботи. Процеси заморожування та збезводнення біологічних матеріалів привертають увагу багатьох дослідників у галузі кріогенної техніки, кріомедицини та кріобіології. Термодинамічні процеси, де відбувається заморожування та збезводнення клітинних об'єктів, широко використовуються і для зберігання (наприклад, еритроцитів або клітин рогівки ока), і деструкції (кріохірургічні операції) біологічних об'єктів. Кріоконсервування є основним методом, що дозволяє зберігати життєздатні біологічні матеріали для медичних та інших цілей протягом тривалого часу. Для сучасних методів лікування, наприклад гемопоетичними ембріональними клітинами (ГЕК), кріоконсервування є незамінним, оскільки перед використанням як лікувального препарату клітини і тканини мають проходити тривале (до кількох місяців) тестування для виявлення бактерій та вірусів. Роботи цього напрямку, що проводяться протягом останніх десятиріч на Україні, привели до значних успіхів на світовому рівні.

Проблеми, що виникають на шляху широкого застосування низькотемпературних методів, зумовлені також різноманітністю типів клітин, які піддають кріоконсервуванню, та браком загальної теорії, що дозволяє розв'язати проблеми вибору оптимального режиму заморожування та оптимальної концентрації кріопротектора. Для розв'язання задач інтенсифікації таких процесів, для розробки нових установок і технологій необхідна вірогідна та докладна інформація про термодинамічну і фазову поведінку клітинних речовин, тобто про можливі в системі фазові переходи та послідовності їх здійснення.

Найбільш надійний спосіб одержання даних - експериментальний, що пов'язаний з великими витратами матеріальних і трудових ресурсів. Внаслідок цього у багатьох випадках краще моделювати властивості клітинних об'єктів і процеси в них. Цей метод дозволяє поширити результати, що є, на інші умови чи об'єкти з достатнім ступенем вірогідності при відносно невеликих витратах. Таким чином, розробка основ моделювання термодинамічних процесів заморожування і збезводнення біологічних об'єктів є актуальною науково-технічною задачею. Актуальність теми дослідження визначається її безпосереднім зв'язком з проблемами і потребами, що спричинюються до науково-технічного прогресу на сучасному етапі.

Зв'язок роботи з науковими програмами, планами, темами. Роботу виконано відповідно до програми фундаментальних та прикладних наукових досліджень Міністерства освіти України (держбюджетні теми: МК 97/1. "Розробка методологічних основ створення медико-біологічного обладнання для консервації"- № держ. реєстр. 0197V010041; МК 97/15. "Дослідження фазових діаграм рідинних розчинів та методи пошуку рідин з наперед заданими термодинамічними властивостями" -№ держ. реєстр. 0197V010051).

Мета і задачі дослідження. Головна мета дисертації полягала в розробці теоретичних основ моделювання процесів кріоконсервування та кріодеструкції на мікро- і макрорівнях (від окремого клітинного об'єкта до органів чи їх частин) та використанні розроблених моделей до розв'язання прямих і зворотних задач взаємодії кріозонда з біологічним об'єктом.

Для досягнення поставленої мети сформульовано та розв'язано такі основні задачі:

аналіз типів і створення узагальненої моделі фазової поведінки клітинних колоїдних систем;

термодинамічне моделювання процесів заморожування та водообміну біологічних об'єктів з навколишнім середовищем при локальних кріодіях;

створення фрактальної моделі розповсюдження температурних полів у макроскопічних біологічних об'єктах, що відображає анізотропний характер реальних клітинних структур;

розвиток методів оптимального керування параметрами зовнішньої дії (наприклад, температурою, складом, рН, осмотичним тиском) для підвищення ефективності процесів заморожування біологічних об'єктів.

Наукова новизна одержаних результатів полягає в тому, що вперше проведено моделювання термодинамічних процесів заморожування та збезводнення біологічних об'єктів на мікро- та макрорівнях з урахуванням фазової поведінки внутрішньоклітинного розчину на підставі кінетичної моделі і глобальних фазових діаграм; вперше проведено моделювання процесів заморожування біологічних об'єктів як фрактальних процесів у суттєво неоднорідних середовищах.

Наукові положення, що викладені в дисертації, формулюються так:

Коректний перехід від повних фазових діаграм внутрішньоклітинних розчинів і колоїдів до глобальної фазової діаграми модельної суміші дозволяє істотно спростити задачу моделювання процесу кріогенного заморожування біологічних об'єктів і, як наслідок, дозволяє ефективно керувати цим процесом;

Процес поширення температурних полів при кріодіях на макроскопічні (багатоклітинні) біологічні об'єкти носить фрактальний характер, урахування якого відбиває індивідуальність біологічних об'єктів і приводить до більш коректного опису таких процесів порівняно з традиційними методами.

Достовірність наукових положень і результатів підтверджується коректністю проведених математичних викладок, порівнянням з результатами попередніх праць, опублікованими в літературі, взаємною узгодженістю і несуперечливістю, підтвердженими чіткою узгодженістю розрахункових та експериментальних даних.

Практичне значення одержаних результатів. Розроблені в дисертації моделі й методи значно розширюють клас біологічних об'єктів, для яких можливий опис процесів кріогенного заморожування та збезводнення. На підставі запропонованих методів розроблено програмне забезпечення для розрахунку фазових рівноваг, моделювання температурних полів у фрактальних середовищах. Результати роботи мають фундаментальний інтерес для інженерів і дослідників, що працюють у галузі кріогенної техніки та її застосування у кріобіології і кріомедицині.

Особистий внесок здобувача в роботи, що написані у співавторстві, такий. Особисто дисертантом виконано адаптацію необхідних прикладних програмних засобів, основну частину розрахунків, порівняння з наявними експериментальними і модельними літературними даними, формулювання наукових положень і висновків. Окремі етапи роботи проводилися з іншими науковими робітниками.

Апробація роботи. Основні положення і результати дисертації викладено на таких наукових конференціях: "Застосування обчислювальної техніки і математичного моделювання у прикладних наукових дослідженнях", ОДПУ. Одеса 1995 - доповідь "Кинетика процессов структурных изменений в биологических объектах"; "Теорія і практика вузівської науки", ОДАХ, Одеса, 1995 - доповідь "Моделирование процессов воздействия холода на биологические ткани".

Публікації. Автор опублікував 3 статті (1 без співавторів) за темою дисертації в наукових журналах з переліку, затвердженого ВАК України. Список таких робіт уміщено в кінці автореферату. Тези 2-х доповідей на конференціях також опубліковані.

Структура та обсяг роботи. Дисертація складається зі вступу, чотирьох глав, висновків, списку використаної літератури і містить 129 сторінок, 40 рисунків, 2 таблиці. Список використаних джерел включає 104 найменування.

ЗМІСТ РОБОТИ

У вступі обґрунтовано актуальність теми дисертації, сформульовано цілі і задачі роботи, викладено наукові положення і результати, що винесені до захисту, наведено дані про наукову новизну, практичну цінність, апробацію роботи, визначено особистий внесок автора дисертації.

У першому розділі розглянуто питання щодо моделювання фазової поведінки клітинних колоїдних систем. Розглянуті сучасні уявлення про структури і склад клітини та внутрішньоклітинного флюїду. Проведено аналіз повної фазової діаграми модельного дисперсійного середовища клітинних колоїдів. Показано її зв'язок з іншими типами повних фазових діаграм подвійних і потрійних систем. Розглянуто типи фазової поведінки флюїдів, що належать до класу речовин, які становлять внутрішньоклітинні суміші.. Викладено метод глобальних фазових діаграм, використовуваний для класифікації фазових діаграм флюїдних сумішей та для пошуку речовин з наперед заданими властивостями. Продемонстрована термодинамічна аналогія з точки зору генезису евтектичних та гетероазеотропних рівноваг у бінарних сумішах. Обміркована аналогія між поведінкою критичних ліній рівноваги рідина-рідина при високих тисках та ліній твердіння. Сформульовано принципи переходу від повних фазових діаграм до глобальної фазової діаграми модельної системи з точки зору управління фазовою поведінкою. Показано, що основна частина дисперсійних середовищ клітинних колоїдів може бути зарахована до простого типу фазової поведінки, який спостерігається в системах з одним летким і двома нелеткими компонентами без розшаровування в рідкій фазі. Це дозволяє обґрунтувати перехід до моделювання таких систем у локальному діапазоні термодинамічних параметрів на основі квазібінарного підходу. З другого боку, знання основних особливостей фазової поведінки дає можливість сформулювати критерії для пошуку підхожих кріопротекторів, здатних змінити фазову поведінку системи у заданому напрямку. Розглянуто також тригерні механізми утворення нових фаз у процесах заморожування, вплив густини розчину, зміни концентрації солі й добавок на ці механізми.

Склад модельної колоїдної системи характеризується вмістом у середньому (%): води - 75-85, білка - 10-20, ліпідів - 2-3, неорганічних речовин - 1. Для деяких типів клітин частка води, що утворює внутрішньоклітинний розчин і здатна брати участь у переносі, може бути значно менша, наприклад, для еритроцитів вона складає 63,15 %, бо 11,6 % відсотка внутрішньоклітинної води в еритроцитах перебуває у зв'язаному стані з гемоглобіном. Відповідно, у подібних випадках концентрація розчинених солей може бути вища порівняно з указаною раніше величиною. Внаслідок цього основні фазові явища при охолодженні та заморожуванні біологічних мікрооб'єктів безпосередньо, і в першу чергу, пов'язані з фазовою поведінкою дисперсійного середовища, тобто характерних для живих систем водно-сольових розчинів. Поведінка цих водно-сольових розчинів може відрізнятися від звичайної через наявність у колоїдній системі розчинених органічних речовин. Ця сама властивість може бути використана для керування фазовою поведінкою клітинних колоїдів додаванням тих чи інших речовин у систему. В цілому, знання термодинамічних параметрів фазової поведінки клітинного середовища є принциповим і для застосування кінетичних моделей, що описують процеси збезводнення клітини при заморожуванні і процеси кристалізації всередині клітини.

Глобальні фазові діаграми відображають ділянки існування різних типів фазової поведінки у просторі параметрів взаємодії компонентів термодинамічної системи. Одержавши глобальну фазову діаграму, можна передбачати основні особливості фазової поведінки даної конкретної системи або підібрати за потрібними параметрами міжмолекулярної взаємодії компонент системи, який забезпечить наперед задану фазову поведінку.

В застосуванні до проблем заморожування біологічних об'єктів підхід з використанням глобальних фазових діаграм дозволяє обґрунтувати методи розрахунку термодинамічних параметрів фазової поведінки поза- та внутрішньоклітинних розчинів, необхідних для вживання кінетичних моделей. Зокрема, фазова поведінка водно-сольових систем у діапазоні концентрацій, спостережувана у живих системах, може бути описана в рамках концепції квазібінарних розчинів, тобто заміною в термодинамічному розгляді води і солі на ефективну речовину з певними параметрами критичної точки та молекулярною вагою, що залежить від концентрації розчиненої солі. Це дозволяє спростити використовуваний формалізм та зосередитися на впливі органічних чи інших добавок на фазову поведінку внутрішньоклітинного розчину, що безпосередньо наближає можливість пошуку оптимального кріопротектора і, таким чином, розв'язання задачі оптимального управління процесом заморожування біологічних об'єктів.

Перехід до квазібінарного моделювання базується на тому факті, що більшість систем типу H₂O+NaCl+Х (де Х - це кріопротектор або інша добавка, що використовується для керування фазовою поведінкою) належить до типу потрійних систем. Такі системи належать у сучасній класифікації до систем з одним летким і двома нелеткими компонентами (В.М. Валяшко, 1990). Як леткий компонент внутрішньоклітинного середовища виступає вода. Сіль є нелетким компонентом. Другим нелетким компонентом може бути кріопротектор (гліцерин, диметилсульфоксид та ін.) або інша сіль, наприклад КС 1. Як випливає з аналізу топології фазової діаграми систем даного типу, системи мають лінію потрійної евтектики, що розташована при нижчих температурах, ніж евтектика бінарної системи вода-сіль, а керуюча добавка не змінює вихідного типу фазової поведінки системи вода-сіль. Таким чином, дія внутрішньоклітинного кріопротектора полягає у зміщенні нижньої точки замерзання розчину в бік нижчих температур.

У другому розділі розглянуто методи термодинамічного моделювання процесів заморожування та збезводнення біологічних об'єктів на клітинному рівні. В основі запропонованого підходу лежать моделі фазової поведінки клітинних колоїдів, що розглянуті в попередній главі. Проведено аналіз основних типів біологічних мікрооб'єктів, розглянуто їх класифікацію за типом межі розділу, складу та концентрації внутрішньоклітинних органел, за кінетикою протікання процесів заморожування. Викладено головні принципи, що лежать в основі моделі Мазура (P. Mazur, 1963), розглянуто її сучасні модифікації. На підставі цієї моделі з урахуванням моделей фазової поведінки проведено моделювання порога льодоутворення та діаграм стану внутрішньоклітинного флюїду залежно від темпу охолодження, наявності кріопротектора або інших добавок для основних типів біооб'єктів на клітинному рівні.

Аналіз процесу заморожування та збезводнення живих клітин або інших біологічних об'єктів оснований на моделі, яку вперше запропонував Мазур (P. Mazur, 1963) і яку потім було модернізовано у наступних дослідженнях (O.M. Silvares et al.,1975; G.R. Ling, C.L. Tien, 1970). Розглядувана в моделі система складається з клітини та її безпосереднього оточення. Причина втрати води клітиною при заморожуванні полягає в тому, що в результаті відводу тепла з оточуючого клітину середовища порушується термодинамічна рівновага, і вода під дією різниці хімічних потенціалів поза та всередині клітини витікає з внутрішньоклітинного простору. У більшості випадків картина термодинамічної рівноваги значно ускладнюється наявністю розчинених у воді солей та інших речовин, які при певному ступені концентрації внаслідок збезводнення клітини можуть призводити до необоротних хімічних змін у клітині та втраті її життєздатності.

Указаний фактор дозволяє пояснити характерну U-подібну залежність частки загиблих при заморожуванні клітин від швидкості охолодження. Наявність такої залежності свідчить про існування оптимальної швидкості охолодження, коли при інших однакових умовах загине найменша кількість клітин. Очевидно, що великі швидкості охолодження призводять до бистрого переохолодження внутрішньоклітинного простору. Наслідком цього є кристалізація цитоплазми та пошкодження кристалами льоду клітинних структур ("внутрішньоклітинне замерзання"). З другого боку, при охолодженні зі швидкостями, нижчими за оптимальну, внутрішньоклітинна вода кристалізується поза клітиною, що призводить до підвищення концентрації розчинених речовин до летального рівня ("концентраційні ефекти"). Керування таким процесом можна здійснювати за допомогою методів оптимального управління фазовими рівновагами, що описані в попередній та наступних главах. У даній роботі розглянуто деякі загальні моделі фазової поведінки біологічних об'єктів, які суттєво розширюють діапазон застосовності рівняння Мазура і дозволяють теоретично описати досить широкий клас систем на клітинному рівні, що викликає інтерес для технологій глибокого холоду.

У третьому розділі було розглянуто питання щодо моделювання температурних полів у біологічних об'єктах при кріодіях. Можливість моделювання температурних полів при кріодіях поширює перспективи кріохірургічного застосування, оскільки прогнозування зони ураження за відомими теплофізичними параметрами тканини і характеристиками робочої частини зонда є основою успіху будь-якої кріохірургічної операції.

Температурне поле, що виникає в локально охолоджуваному біологічному об'єкті, є пошкоджуючим фактором. Значна різниця між температурою некрозу і температурою початку утворення кристалів льоду (Т=273 К) призводить до того, що глибина заморожування у кожний момент часу більша за глибину некрозу. Термічна нерівноважність стає джерелом додаткового руйнування здорових тканин, якщо процес кріодії некерований. Дослідженню поширення кріодій на тіла з неоднорідною структурою присвячено велику кількість праць, в яких було одержано описи усереднених температурних полів гетерогенних середовищ за допомогою заміни досліджуваного об'єкта квазіоднорідним тілом з деяким узагальненим коефіцієнтом теплопровідності. Але слід мати на увазі, що чіткі постановки задач теплопровідності для знаходження температурних полів навряд чи мають рацію через неможливість задати точні крайові умови, що пов'язано з індивідуальною природою біологічного об'єкта, яка виявляється у розкиді теплофізичних характеристик. Так, наприклад, за даними Г.Б. Чижова коливання вмісту вологи в м'язах корів одної популяції й одного віку становлять 10 %. Ця обставина спричинюється до того, що індивідуальність, яка притаманна об'єктам моделювання, за рахунок усереднення теплофізичних характеристик може бути втрачена. Разом з тим, для біологічних об'єктів реакція на кріодії має відображати їх індивідуальність, що є першорядною задачею не тільки для кріохірургії, але й для кріоконсервування. Структура біологічних об'єктів є суттєво неоднорідною, та використання стандартного апарату теорії теплопровідності може бути виправдано у рамках макроскопічного підходу, якщо застосувати гіпотезу Г.Д. Дульнева і Ю.П. Зарічняка про адекватність ефективних коефіцієнтів переносу для однорідних і неоднорідних структур. Упорядковані структури мають далекий порядок, та для них можна виділити елементарну комірку, геометричні властивості якої дорівнюють відповідним властивостям усієї системи в цілому. Якщо розглянути невпорядковану структуру, то гіпотеза про адекватність упорядкованих і невпорядкованих структур припускає рівність їх однакових ефективних властивостей на макрорівні. Але при такому підході втрачається інформація про поведінку системи на мезорівні, що відбиває індивідуальні властивості біологічної системи в цілому. Адекватнішим наближенням до реальної складності біологічних структур є використання уявлень про фрактали, які досить добре імітують неоднорідність таких об'єктів. Моделювання структурованих об'єктів, для яких макротермодинамічний опис вже недостатній, а мікроскопічний через обчислювальні проблеми ще неможливий, зроблено в дисертації за допомогою підходів мезотермодинаміки. Масштаби, якими оперує це наближення, знаходяться між крайніми межами мікроскопічного (близько декількох Ангстрем) і макроскопічного (близько мільйонів Ангстрем) описів.

При такому підході біологічні об'єкти (біологічні тканини, структуровані біологічні рідини, клітинні структури) відображаються деяким теплопровідним середовищем, в якому структурна неоднорідність генерується за рахунок хаотичного росту первісної локально рівноважної структури. Залежно від використовуваного закону росту, траєкторії руху формують такі перколяційні мережі, хаотичний характер яких якісно нагадує реальні структури біологічних об'єктів у мезотермодинамічному масштабі. Ієрархічна організація об'єктів, в якій можна виділити структури різних масштабів, як великих, так і малих, дозволяє застосувати принцип самоподібності (тобто властивість об'єкта, за структурою якого спостерігають в одному масштабі, повторюватися у послідовно зменшуваних масштабах) для фрактального опису процесів переносу теплоти у біологічних системах. Поняття фракталу є досить нове, яке було впроваджено в науковий обіг на початку 80-х років у працях Б. Мандельброта.

Принциповою особливістю рівнянь переносу на фракталах є виникнення такої величини як фрактальна розмірність, яка є інформаційною мірою багатьох хаотичних теплопровідних шляхів розглядуваної структури. Перехід від макроскопічного опису до мезорівня здійснюється на підставі гіпотези про те, що коефіцієнт температуропровідності є функцією відстані та фрактальної розмірності. Алгоритм поширення кріодії в нерегулярному теплопровідному середовищі складається з трьох основних етапів:

генерація геометричної структури біологічного об'єкта - кластера (мікрорівень);

визначення фрактальної розмірності теплопровідної структури (мезорівень);

обчислення температурного поля фрактального середовища (макрорівень).

У дисертації здійснено комп'ютерну реалізацію різних способів моделювання структури біологічних тканин, в яких експериментально спостерігається фрактальна структура об'єкта. Фрактальну розмірність кластерів:

. (1)

визначали методом ренормалізаційної групи. Поле, на якому формували фрактал, розбивали на квадрати розміру n_i й потім підраховували розмір кластера N_i (число зайнятих квадратів). Одержаний набір чисел ln n_i та ln N_i та оброблювали методом найменших квадратів, що дозволило дістати значення фрактальної розмірності з похибкою, меншою за 10 %. Похибка визначення фрактальної розмірності пов'язана з тим, що на практиці неможливо задати нескінченні множини, тому число точок, що покриваються, завжди має кінцеве значення. Отже, для кінцевого числа точок завжди існує мінімальна відстань між ними. При зменшенні r, коли починає виконуватися нерівність r_n < r_min, величина N(r_n) прямує до значення N₀.. Тому для визначення фрактальної розмірності можливо використовувати лише ділянку, що лежить між дуже великими і дуже малими значеннями 1/r.

Размещено на http://www.allbest.ru/

Размещено на http://www.allbest.ru/

а) б)

Рис. 1. а) Гемангіоперицитома - фрактальна розмірність D = 1.898-1.944; б) Модельний перколяційний кластер - фрактальна розмірність D =1.952-1.986

На основі методу Монте-Карло було розглянуто такі моделі кластерів, які імітують можливу геометричну структуру біологічних об'єктів: агрегація з обмеженою дифузією; трековий перколяційний кластер; окупуючий перколяційний кластер; класична модель теорії перколяції. Кожний варіант реалізовано на квадратній гратці розміром 8080 вузлів. На рис. 1 дано збільшене у 200 разів зображення реального біологічного об'єкта - гемангіоперецитоми, який піддано кріохірургічній дії, і модельного фрактального кластера.

Результат кріодії на біологічний об'єкт змодельовано як еволюцію температурних полів у неоднорідному середовищі. На відміну від континуальних моделей середовища, в яких розподіл температур має регулярний характер, у перколяційних моделях, де мережа теплових опорів хаотична, спостерігали анізотропне поширення теплових потоків навіть від ізотропного джерела. Аналогом може бути утворення т.з. finger - структур у гідродинаміці. Таке уявлення про поширення теплових потоків є першим кроком урахування індивідуальності біологічного об'єкта і дозволяє збагнути причину неоднозначності щодо успішності кріохірургічної операції на індивідуальних об'єктах.

Для опису процесів поширення теплоти у фрактальних структурах у роботі використано аналогію з процесом дифузії на фракталах та введено коефіцієнт температуропроводності, що залежить од відстані і фрактальної розмірності:

, (2)

де К(r) - коефіцієнт температуропровідності; r - відстань; - величина, що залежить від фрактальної розмірності =2D-2, D - фрактальна розмірність.

Загальний розв'язок задачі теплопровідності вздовж півосі одержано методом функцій Гріна при довільній початковій умові та граничній умові першого роду для сферично симетричного випадку. Граничні та початкові умови розглянуто для тіла з рівномірно розподіленою температурою в початковий момент часу = 0, що дорівнює температурі навколишнього середовища T_max = 293К. Кріозонд з температурою T_min = 260К розташовували в центральній точці об'єкта r = 0 (для кластерів цими точками є вузли гратки з координатами (40,40), (51,38), (31,44), (50,46)) і вивчали розподіл температурних полів у таких неоднорідних середовищах. Результати моделювання температурних полів при різних значеннях фрактальної розмірності наведено на рис. 2.

Як показують графіки, температурне поле для кластерів з фрактальною розмірністю, що наближається до одиниці, мало чим відрізняється од температурного поля суцільного середовища. Тому такі об'єкти можна заміняти квазіоднорідним тілом та використовувати звичайне рівняння для нестаціонарної теплопровідності.

а) б)

Рис. 2. а) Температурне поле для кластера з D = 1.2853; б) Розподіл температури для перколяційного кластера, що має фрактальну розмірність D = 1.9125

З другого боку, у кластерах з розмірністю D близько 1.7…1.9 спостерігається посилення анізотропії поширення теплових потоків із зростанням фрактальної розмірності, незважаючи на ізотропність коефіцієнта температуропровідності у фракталі.

У четвертому розділі роботи розроблено підхід до підбору робочих температур кріоінструментів на підставі розв'язання зворотної задачі теплопровідності з фазовими переходами. При взаємодії кріоінструментів з поверхнею локальне руйнування тканини виникає внаслідок поширення температурного фронту в середовищі з фазовими переходами. Зменшення дії низьких температур, що травмують, на здоров'я тканини можна досягти при оптимальному керуванні тепловими потоками, коли температура контакту кріоінструмента з тканиною регулюється в такий спосіб, щоб мінімізувати виникнення у здорових тканинах кристалів льоду, оскільки глибина заморожування завжди більша від глибини некрозу. Проведення раціонального кріохірургічного процесу з метою деструкції тканини потребує виконання асимптотичної умови рівності глибин некрозу (L_n) і заморожування (L_f), тобто = L_n/ L_f 1.

Передбачення температурних полів у таких складних біологічних структурах найбільш адекватно описано фрактальними моделями, які розглянуто вище. Для розв'язання зворотних задач такі моделі є надзвичайно складні, до того ж математичний апарат для їх розв'язання донині не розроблений. Тому розглянута простіша модель одномірного розподілу температури в однорідному та ізотропному напівнескінченному тілі при наявності фазового переходу:

(3)

з відповідними початковими та граничними умовами.

Адекватність такого роду моделей досягається за рахунок припасування їх параметрів під експериментальні дані, а також вони можуть бути адаптовані для взаємодії кріоінструмента з конкретним біологічним об'єктом.

Для мінімальної деструкції здорових тканин при кріохірургічній дії необхідно проектувати такі інструменти, в яких відбувався б зворотний зв'язок між тепловим потоком (температурою) на поверхні та показаннями температури всередині біологічного об'єкта. Для розв'язання зворотної задачі використовували метод функціональної апроксимації, в якому функціональна форма невідомої густини теплового потоку наперед відома. Функціональна форма містить низку вільних параметрів, які визначають, наприклад, методом найменших квадратів. Вперше такий підхід був застосований з успіхом у працях Френка і Шульца ще у 60-і роки.

У рамках методу функціональної апроксимації вважають, що математична модель розподілу температури в біологічному об'єкті під час фазового переходу описується системою рівнянь (3)..

Розв'язання зворотної задачі полягає в оцінці густини теплового потоку на поверхні у дискретні моменти часу відповідно до умови:

. (4)

Гранична умова при х = 0 не визначена, але замість цього відомі результати вимірювань температури в часі у деяких точках всередині тіла. Якщо брати, що густина теплового потоку є функція, що змінюється слабо, тоді найпростіший математичний вираз, що враховує дану обставину, може бути поданий лінійною формою q () = q₀ + q₁. Далі припускаємо, що в деякій точці х = х_Е виміряні температури Y_i в моменти часу. Застосування нелінійної процедури методу найменших квадратів дозволяє використати невідомі параметри q₀ і q₁,,, мінімізуючи суму:

. (5)

Найбільш інформативною характеристикою для керування робочою температурою кріоінструмента є температура заморожування, яка фактично визначає зону руйнування біологічної тканини. Структура функціоналу (5) для пошуку залежності Т_с () залишається тою самою, за винятком невідомих параметрів, які визначають часову залежність не теплового потоку на межі, а температуру наконечника кріоінструмента. Для мінімізації середньоквадратичного функціонала використовували прямі методи пошуку екстремуму (метод золотого перетину для функції однієї змінної, оскільки Т_сmin було задано наперед). Як "експериментальні" значення глибини заморожування (х = х_Е) було введено величини, які перерахували для даних наперед величин глибини деструкції від 5 до 20мм (крок 5 мм). Результати розрахунків для Т_сmin = 100 К для різних глибин некрозу наведено в дисертації у вигляді графіків, які можуть бути використані для оцінок при кріохірургічному втручанні. Для адаптації даного підходу до конкретних кріоінструментів необхідно мати дані про коефіцієнти переносу для даного біологічного об'єкта. Алгоритми вирішення зворотної задачі теплопровідності дозволили розв'язати задачу оцінювання коефіцієнтів переносу за обмеженими вимірюваннями і тим самим побудувати адекватні моделі поширення кріодій у біологічних тканинах.

На відміну від задач кріохірургії, де необхідно здійснити з максимальною ефективністю процес руйнування клітинних структур при низькотемпературному консервуванні клітинних суспензій, задача полягає у максимальному збереженні життєздатних клітин. Такі фактори, як надзвичайне збезводнення клітин, з одного боку, та внутрішньоклітинне кристалоутворення, з другого, призводять до пошкодження біологічного матеріалу, що кріоконсервується. Поряд з тим, з підвищенням швидкості збезводнення клітини ймовірність утворення кристалів льоду всередині клітини зменшується. Імовірність утворення кристалів льоду збільшується, якщо інтенсивність збезводнення зменшується. Очевидно, що наявність указаних процесів дозволяє дістати висновку про існування компромісу між швидкостями збезводнення і заморожування клітин, при якому можна досягти максимальної концентрації клітин, що вижили.

Керування таким процесом є нетривіальною задачею, до того ж для її розв'язання було використано методи теорії оптимального управління. Динамічну модель, за допомогою якої описували взаємодію процесів збезводнення та заморожування, було подано диференціальним рівнянням, що має вигляд: модель водообмін заморожування кріопротектор

. (6)

Дане рівняння відображає еволюцію клітин - n, що вижили внаслідок кріодії, залежно від інтенсивності процесів збезводнення () і кристалізації (). Параметри моделі і в загальному випадку є функції багатьох факторів, в першу чергу, клітинних параметрів, і встановлюються в кожному конкретному випадку за експериментальними даними. Це пов'язано з тим, що для різних клітин оптимальні швидкості охолодження не мають оптимального характеру і часто відрізняються одна від одної в декілька разів. Функція управління u(t), яка має властивості 0 u(t) 1, характеризує вплив деякої зовнішньої дії (наприклад, зміни температури, складу, рН або осмотичного тиску позаклітинного розчину і т.д.) на інтенсивність процесу заморожування в момент часу t.

Задача полягає в тому, щоб знайти таке управління u(t), при якому за період часу Т можна було б досягти максимального значення концентрації клітин, що вижили в результаті кріодії:

. (7)

Вигляд функції управління фактично визначає програму режимів заморожування, при яких кріоруйнівний ефект мінімальний. Задачі такого класу є задачами оптимального управління, для розв'язання яких у роботі застосований принцип максимуму Понтрягіна.

Одержано аналітичні вирази для основної характеристики напрямленої кріодії - оптимального часу перемикання для релейної функції управління u(t), що відповідає до т.з. швидких двоступінчастих програм заморожування біологічних суспензій. Здобуте розв'язання дозволяє обґрунтувати двоступінчасте заморожування біологічних матеріалів, при якому для запобігання деструкції клітинних структур проводять початкове переохолодження з як найменшою швидкістю, та встановити оптимальний період холодової адаптації перед глибоким заморожуванням.

ОСНОВНІ РЕЗУЛЬТАТИ ТА ВИСНОВКИ

ОСНОВНИЙ ЗМІСТ ДИСЕРТАЦІЇ ВИКЛАДЕНО В ПУБЛІКАЦІЯХ

1. Муссауи Х.А., Бошков Л.З., Мазур В.А. Модели фазового поведения клеточных коллоидных систем при замораживании // Холодильна техніка і технологія. -1998. - Т.58. - С. 13-18.

2. Войтович Д., Герега А., Муссауи Х., Мазур В.А. Распространение локальных криовоздействий во фрактальных моделях биологических объектов // Холодильна техніка і технологія. 1999. - Т 59. - С. 34-39.

3. Муссауи Х. Выбор рабочих температур криоинструментов для локального разрушения биологических тканей // Холодильна техніка і технологія. - 1999. -Т.60. - С. 51-56.

Умовні позначення:

х - просторова координата; S() = L_f - товщина шару, в межах якого спостерігаємо фазовий перехід у момент часу ; , С_Р, - густина, ізобарна теплоємність та коефіцієнт теплопровідності. Індекси 1 і 2 характеризують властивості біологічної тканини в межах замороженої та незамороженої ділянок.

АННОТАЦІЇ

Муссауи Хуссейн Али. Моделирование термодинамических процессов замораживания и обезвоживания биологических объектов. - Рукопись.

Диссертация на соискание ученой степени кандидата технических наук по специальности 05.04.03 -"Холодильная и криогенная техника, системы кондиционирования воздуха". Одесская государственная академия холода, Одесса, 1999.

Рассмотрены кинетические модели водообмена при замораживании клеток и сформулированы пути управления концентрационными эффектами на основе глобальных фазовых диаграмм. Фазовое поведение водносолевых систем в диапазоне концентраций, наблюдаемых в живых системах, описано в приближении квазибинарных растворов. Определены принципиальные возможности поиска оптимальных криопротекторов на основе анализа глобального фазового поведения водносолевых растворов под влиянием органических добавок. В данной работе биологические объекты отображаются теплопроводящей средой, в которой структурная неоднородность генерируется за счет хаотического роста затравочной локально равновесной структуры. В зависимости от используемого закона роста, траектории движения формируют такие перколяционные сети, хаотический характер которых качественно напоминает реальные структуры биологических объектов в мезотермодинамическом масштабе. Принципиальной особенностью уравнений переноса в таких системах является наличие фрактальной размерности, представляющей информационную меру множества хаотических теплопроводящих путей рассматриваемой структуры. Переход от микроскопического описания к мезоуровню осуществляется на основе гипотезы о том, что коэффициент температуропроводности является функцией расстояния и фрактальной размерности. Предложенная математическая модель распространения криовоздействия в нерегулярной теплопроводящей среде включает три основных фактора: генерацию геометрической структуры биологического объекта (кластера) - микроуровень; определение фрактальной размерности теплопроводящей структуры - мезоуровень; вычисление температурного поля фрактальной среды - макроуровень. Представлена компьютерная реализация рассмотренных выше моделей применительно к различным биологическим объектам, подвергающимся локальным криовоздействиям. Разработан подход к выбору рабочих температур криоинструментов для минимальной деструкции здоровых тканей на основе решения обратной задачи теплопроводности с фазовыми переходами. Дано обоснование преимуществ двухступенчатого замораживания биологических материалов для предотвращения деструкции клеточных структур на основе методов теории оптимального управления для кинетических моделей процессов замораживания - обезвоживания.

Ключевые слова: математическое моделирование, криовоздействие, замораживание, обезвоживание, биологические объекты.

Муссауі Хуссейн Алі. Моделювання термодинамічних процесів заморожування та збезводнення біологічних об'єктів.

Дисертація на здобуття наукового ступеня кандидата технічних наук за спеціальністю 05.04.03 - "Холодильна і кріогенна техніка, системи кондиціювання повітря". Одеська державна академія холоду, Одеса, 1999.

Розглянуто кінетичні моделі водообміну при заморожуванні клітин та сформульовано шляхи керування концентраційними ефектами на основі глобальних фазових діаграм. Фазова поведінка водно-сольових систем у діапазоні концентрацій, спостережуваних у живих системах, описана в наближенні квазібінарних розчинів. Визначено принципові можливості пошуку оптимальних кріопротекторів на основі аналізу глобальної фазової поведінки водно-сольових розчинів під впливом органічних добавок. У даній роботі біологічні об'єкти відображаються теплопровідним середовищем, в якому структурна неоднорідність генерується за рахунок хаотичного росту первісної локально рівноважної структури. Перехід від мікроскопічного опису до мезорівня здійснюється на підставі гіпотези про те, що коефіцієнт температуропровідності є функцією відстані та фрактальної розмірності. Розроблено підхід до вибору робочих температур кріоінструментів для мінімальної деструкції здорових тканин на підставі розв'язання зворотної задачі теплопровідності з фазовими переходами. Дано обґрунтування переваг двоступінчастого заморожування біологічних матеріалів для запобігання деструкції клітинних структур на основі методів теорії оптимального управління для кінетичних моделей процесів заморожування-збезводнення.

Ключові слова: математичне моделювання, кріодія, заморожування, збезводнення, біологічні об'єкти.

Moussaoui Hussein Ali. Modeling of thermodynamic processes of freezing and dehydration for biological objects. - Manuscript.

Thesis for a candidate of science (engineering) degree by specialty 05.04.03 - " Refrigeration and cryogenic engineering, air-conditioning systems". - Odessa State Academy of Refrigeration, Odessa, 1999.

The kinetic models of a water exchange on freezing cells have been studied and the methods of the concentration effect control on the basis of global phase diagrams have been formulated. A phase behavior of water-salt systems in the range of the concentrations occurring in an alive system is described as quasi-binary solutions. The principal possibilities of a search for the optimum cryoprotectors based on analysis of global phase behavior of the water-salt solutions acted upon by organic admixtures have been determined. In this research work a biological object is considered as the heat-conducting medium in which a structural heterogeneity is generated due to a chaotic growth of a initial locally equilibrium structure. Transition from a microscopic description to a mesolevel is realized on the basis of the hypothesis that the temperature conductivity coefficient is a function of the distance and fractal dimension. An effective approach to choosing the operation temperature of cryoinstruments for the minimum destruction of tissues has been developed on the basis of solution of a inverse problem of heat conductivity with phase changes. An advantage of two-stage freezing of biological materials in order to prevent destruction of a cell structure has been substantiated by the optimum control theory for kinetic models of freezing and dehydration processes.

Key words: mathematical modeling, cryo-impact, freezing, dehydration, biological objects.

Размещено на Allbest.ru