Размещено на http://www.allbest.ru/

ВВЕДЕНИЕ

Человечество уже сотню лет грезит неизведанным. Первыми стали фантасты и ученые с нестандартным подходом к проблеме. Так в нашем мире появилось электричество, затем связь, затем простейшие вычислительные машины, занимавшие огромные залы, и на вершине, в данный момент стоят компьютеры - устройства, предназначенные для обработки информации, работающие на микропроцессорах. И двигало развитие компьютерной техники еще одна основная мысль - сделать компьютер максимально похожим на человека, то есть создать искусственный интеллект. У этой мысли было несколько основополагающих проблем: как сделать устройство настолько быстро обрабатывающее информацию, как и человеческий мозг и как сделать так, чтобы этот интеллект работал правильно, согласно устоявшимся нормам человеческой морали и сознанию человека.

И вот Всероссийская междисциплинарная конференция “Философия искусственного интеллекта”, проходившая в МИЭМе 17-19 января 2005 года, была посвящена вопросам соотношения сознания и ИИ, а также его социокультурным основаниям и перспективам развития. Значительное влияние было уделено эпистемологическим, методологическим и логическим аспектам создания и использования систем ИИ, принципам моделирования мыслительной деятельности, анализу природы виртуальной реальности, теоретическим проблемам робототехники, вопросам истории и теории компьютерных и когнитивных наук. Соответственно этому работало 5 секций:

1. “Сознание и искусственный интеллект”

2. “Методологические проблемы роботизации и исследования виртуальной реальности”

3. “Социокультурные аспекты изучения искусственного интеллекта”

4. “Эпистемологические, методологические и логические вопросы моделирования интеллекта”

5. “Интеллектуальные системы в гуманитарных науках”

Поэтому за тему своего реферата я взял первую секцию «Сознание и искусственный интеллект», так как в здесь раскрывается сущность этой проблемы, а также возможности работы и разработки в области ИИ, и перспективы его развития. Материал был в полном объеме взят из лекции Давида Израилевича Дубровского, который детально работал над этой проблемой и сделал множество значимых выводов.

1. ОБЩЕЕ ПО ТЕМЕ

Разработка проблемы искусственного интеллекта (ИИ) необходимо связана с результатами исследования естественного интеллекта (ЕИ), который не ограничивается когнитивными функциями, представляет сознательную деятельность в целом. Здесь мы имеем дело с тем, что обычно именуют проблемой сознания. Она - многопланова, ее анализ, помимо уточнения терминологии, предполагает теоретически корректное вычленение основных планов и последующее их соотнесение друг с другом. Автор выделяет один из основных планов этой проблемы - классический вопрос об отношении сознания к головному мозгу. Исследование этого вопроса способно расширить и углубить наше понимание специфики информационных процессов, протекающих в головном мозге, и тем самым стимулировать новые подходы в разработке ИИ.

Сознание обладает специфическим и неотъемлемым качеством субъективной реальности (СР). Именно это качество создает главные трудности для объяснения связи сознания с мозговыми процессами (и более широко - при попытках интегрировать его в научную картину мира). В западной аналитической философии (там эти вопросы занимают центральное место и им посвящена колоссальная по объему литература) преобладает редукционистский тип объяснения в двух его основных вариантах: физикалистском (когда явления СР редуцируются к физическим процессам) и функционалистском (когда они редуцируются к функциональным отношениям). Сравнительно немногочисленные противники редукционизма (Т. Нагель, Дж. Серл и др.), высказывая убедительные критические соображения, не предлагают, однако, концептуального решения проблемы «сознание и мозг. Такое решение должно представлять собой теоретически корректный ответ, по крайней мере, на два следующих вопроса:

I. Как связаны явления СР с мозговыми процессами, если первым нельзя приписывать пространственные и другие физические свойства, а вторые ими по необходимости обладают?

II. Каким образом явления СР, которым нельзя приписывать физические свойства (массу, энергию), способны служить причиной телесных изменений, управлять ими?

С ними связан ряд других существенных вопросов, которые имеют более тесное отношение к проблематике ИИ (о них речь пойдет ниже).

Для ответа на указанные два основных вопроса автром предлагается информационный подход. Его исходные посылки следующие:

1. Информация необходимо воплощена в своем физическом (материальном) носителе, она существует лишь в определенной кодовой форме;

2. Информация инвариантна по отношению к физическим свойствам своего носителя, т.е. одна и та же информация может кодироваться по-разному (сокращенно это именуется далее «принципом инвариантности» - ПИ);

3. В самоорганизующихся системах информация может выступать причиной изменений в ее субстрате и структуре, служить фактором управления;

4. Явления СР допустимо интерпретировать в качестве информации (например, мое восприятие дерева в данный момент, как явление моей СР, есть информация о соответствующем внешнем объекте). Если эти посылки всё же принимаются, то из них могут быть выведены искомые объяснения.

2. ИНФОРМАЦИЯ И МОЗГ

Явление СР связано с соответствующим мозговым процессом как информация со своим носителем. Им является определенная мозговая нейродинамическая система. Явлениям СР действительно нельзя приписывать длины, ширины и т.п. Говорить о пространственной локализации явления СР можно лишь в том смысле, что оно воплощено в определенном нейродинамическом коде и вне его не существует, а последний имеет сложную структуру и определенное расположение в головном мозге.

2.1 Субъективная реальность и носитель

Связь явления СР со своим нейродинамическим носителем является функциональной, она представляет сложившуюся кодовую зависимость. Рассмотрим сравнительно простой случай. Переживаемый мной в данном интервале образ дерева (обозначим это явление СР через О) имеет своим носителем определенную нейродинамическую систему (обозначим ее Х). Связь между О и Х носит именно функциональный характер - это явления одновременные и однопричинные: Х есть кодовая представленность О или, короче, - код О. Основательное исследование подобных связей предполагает расшифровку кода. Задача расшифровки мозговых кодов психических явлений уже поставлена на повестку дня (вслед за расшифровкой генетического кода и генома человека).

искусственный интеллект мозговой информация

2.2 «Свой-Чужой» код

Но что означает расшифровка кода, если информация всегда существует только в кодовой форме и от нее невозможно избавиться? Она может означать лишь одно: перевод неизвестного кода в известный. Для каждой самоорганизующейся системы существует два типа кодов. Назовем их «естественными» и «чуждыми». Первые непосредственно «понятны» той системе, которой они адресованы, «прозрачны» для нее, не требуют операции декодирования (частотно-импульсный код на выходе сетчатки сразу «понятен» соответствующим мозговым структурам, слово «дерево» сразу понятно человеку хорошо знающему русский язык, ему не нужно специально анализировать физические и структурные свойства этого кодового объекта и т.п.). Декодирование требуется, когда система имеет дело с «чуждым» кодом, но оно означает лишь преобразование его в «естественный» код. После того как найден и закреплен способ такого преобразования «чуждый» код становится для самоорганизующейся системы «естественным», что знаменует акт ее развития.

2.3 «Прямая» и «Обратная» расшифровка

Важно учитывать, что и «естественные» и «чуждые» коды могут быть для самоорганизующейся системы как внешними (например, сообщаемые человеку непонятные слова), так и внутренними (скажем, мозговые коды типа Х), что обусловливает специфику задач, связанных с их декодированием и перекодированием. Можно выделить два вида задач расшифровки кода: 1) «прямую», когда дан кодовый объект и требуется выяснить информацию, которая в нем содержится (здесь мы имеем дело с «чуждым» кодом), и 2) «обратную», когда нам дана определенная информация и требуется установить ее носитель и его кодовую организацию; здесь перед нами «естественный» код и такая задача является, как правило, более трудной.

2.4 Расшифровка мозговых кодов явлений СР - реальная научная задача

Мозговые коды типа Х являются внутренними «естественными» кодами. Воплощенная в них информация дана индивиду непосредственно в форме явлений его СР (чувственных образов, мыслей и т.п.). Причем, не только устройство такого кода, но даже наличие его в нашем мозгу нами совершенно не ощущается, не отображается. В явлениях СР нам дана информация как бы в «чистом» виде и способность оперировать ею. Таков кардинальный факт нашей психической организации, сложившейся в процессе биологической эволюции и антропогенеза, ибо живой системе для эффективного функционирования нужна информация как результат адекватного отображения внешних объектов, ситуаций, собственных действий и т.д. и в большинстве случаев не нужно отображение носителя информации (в силу принципа инвариантности). У человека же на нынешнем этапе развития общества такая потребность возникает. Расшифровка мозговых кодов явлений СР- реальная научная задача. Ее решение способно вызвать судьбоносные для земной цивилизации последствия как позитивного, так и негативного характера (что особенно важно иметь в виду). Эти вопросы требуют специального рассмотрения.

3. ???????????? ?????????? ? ????

Явления СР способны служить причиной телесных изменений, управлять ими в качестве информационной причины. Психическая причинность есть вид информационной причинности.

3.1 «Желание-действие»

Отличие информационной причины от физической причины определяется принципом инвариантности (причинный эффект вызывается тут именно информацией, на основе сложившейся кодовой зависимости, а не самими по себе физическими свойствами носителя этой информации, которые, в принципе, могут быть разными). Всякое психическое причинение осуществляется в сознательно-бессознательном контуре информационных процессов, который представляет собой исключительно сложный объект для анализа. Трудности усугубляются еще и тем, что даже в случае ясно сознаваемого действия, необходимо учитывать в нем не только рефлексивное и актуальное, но также уровни арефлексивного и диспозиционального. К тому же возникает проблема речевого оформления явлений СР, языкового кода. Однако в первом приближении правомерно все же выделить такую разновидность психической причинности как произвольное действие. Здесь можно сравнительно четко обозначить комплекс явлений СР, выражающих мое намерение совершить определенное действие и управляющих его реализацией. Возьмем простой пример. Я хочу включить свет настольной лампы и делаю это, нажимая кнопку. В данном случае мое желание, побуждение формирует программу действий и запускает цепь кодовых преобразований, хорошо отработанных в филогенезе и онтогенезе (имеется в виду последовательное и параллельное включение кодовых программ движения руки и сопутствующих ему других телесных изменений, а также кодовых программ энергетического обеспечения всего комплекса этих изменений, приводящих к достижению цели). Разумеется, произвольное действие требует более полного описания, мы ограничились лишь общими принципиальными моментами в его объяснении.

3.2 «Из мысли рождается мысль»

Явления СР могут служить причиной не только телесных изменений, но и причиной изменения других явлений СР, когда, например, одна мысль влияет на другую, влечет другую и т.п. Это повсеместный факт нашего опыта. Однако задача дискретизации континуума СР и вычленения отдельного явления СР вызывает серьезные теоретические трудности. Тем не менее в ряде простых случаев такая операция может быть корректно проведена. Тогда, если одна мысль (А) вызывает другую мысль (Б), то это равносильно преобразованию нейродинамического кода первой в нейродинамический код второй. Здесь также имеет место психическая причинность. Ведь внутренний «механизм» следования Б из А принципиально не отличается от тех процессов, когда явление СР вызывает определенное телесное изменение. Различны лишь контуры кодовых преобразований, те подсистемы головного мозга в которых они совершаются.

3.3 Эго-система

Когда мы говорим об отдельном явлении СР, то важно учитывать, что оно всегда принадлежит данному уникальному «Я» и несет на себе его печать, оно есть момент целостной СР, существующей только в конкретной личностной форме. Эта целостность, определяемая нашим «Я», представлена тем, что может быть названо эго-системой головного мозга. Будучи структурно и функционально подсистемой головного мозга, эта эго-система образует высший уровень мозговой самоорганизации и управления; именно на этом уровне функционируют кодовые структуры типа Х. Она охватывает не только сферу сознательных, но и сферу бессознательных психических процессов, регулирует их взаимодействие. Только в контурах эго-системы информационные процессы приобретают качество СР, что связано со специфическими кодовыми преобразованиями. Эти кодовые преобразования отображают, в частности, и уникальные особенности эго-системы (и, значит, личностные особенности индивида), в том числе и такой личностный параметр как волеизъявление. И тут возникает традиционный вопрос о свободе воли, который всегда стоял в центре дискуссий по проблеме сознания и мозга.

3.4 «Я» - творец»

Совместим ли феномен свободы воли с детерминированностью мозговых процессов? На этот вопрос можно дать положительный ответ. Здесь нет нужды вдаваться в подробный анализ феномена свободы воли. Для наших целей достаточно признать, что, по крайней мере, в некоторых случаях человек может сам совершать выбор действий, управлять движением своей мысли, переключать внимание, оперировать по своей воле теми или иными явлениями собственной СР (представлениями, интенциональными векторами), хотя в составе СР есть такие классы явлений, которые либо вообще неподвластны произвольному оперированию, либо поддаются ему с большим трудом. Но признание пусть частичной способности «Я» оперировать явлениями собственной СР (т.е. информацией в «чистом» виде), например способности переводить А в Б, равносильно признанию того, что я могу по своей воле оперировать их нейродинамическими кодами. Следовательно, как бы это странно ни звучало на первый взгляд, я могу по своей воле оперировать некоторым классом своих мозговых нейродинамических систем, т.е. управлять ими (хотя и совершенно не чувствуя этого; не ведая, что творю!). Более того, это означает, что я могу оперировать не только некоторым наличным множеством собственных мозговых нейродинамических систем, активировать и дезактивировать их определенную последовательность, но и формировать направленность кодовых преобразований (в тех или иных пределах) и, наконец, создавать новые кодовые паттерны типа Х. Нельзя же отрицать, что человек своим творческим усилием продуцирует оригинальные мысли, уникальные художественные образы. Эти новообразования в сфере его СР имеют свое необходимое кодовое воплощение в его мозговой нейродинамике.

3.5 Подсознание может все

Поскольку способность создавать новообразования в сфере СР равнозначна способности порождать новообразования на определенном уровне мозговой нейродинамики (кодовой организации типа Х), то это дает основание говорить о постоянной возможности расширения диапазона возможностей саморегуляции, самосовершенствования, творчества. И это относится, конечно, не только к управлению своими психическими процессами, но и к управлению телесными процессами, к психосоматическим контурам саморегуляции. Когда человек, как иногда говорят, силой воли подавляет боль (или когда йог вызывает у себя замедление сердечного ритма), то это означает, что он формирует у себя такие паттерны мозговой нейродинамики, такую цепь кодовых преобразований, которые «пробивают» новый эффекторный путь и «захватывают» вегетативные и другие нижележащие уровни регуляции, обычно закрытые для произвольного управления.

3.6 Свобода воли и детерминизм

Но способность управлять собственной мозговой нейродинамикой может быть истолкована только в том смысле, что нейродинамические системы типа Х, взятые в их актуальной и диспозициональной взаимосвязи, являются самоорганизующимися, образуют в мозгу человеческого индивида личностный уровень мозговой самоорганизации (эго-систему). Следовательно, акт свободы воли (как в плане производимого выбора, так и в плане генерации внутреннего усилия для достижения цели) есть акт самодетерминации. Тем самым устраняется тезис о несовместимости понятий свободы воли и детерминизма, но последнее должно браться в смысле не только внешней, но и внутренней детерминации (задаваемой программами самоорганизующейся системы).

4. СОЗНАНИЕ И КОМПЬЮТЕР

Изложенное выше дает ряд существенных оснований для сопоставления мозга и компьютера, прежде всего в плане осмысления различия информационных процессов, осуществляемых каждым из них, понимания той весьма большой дистанции, которая существует между ними. У компьютера нет субъективной реальности. Информационный процесс, лишенный качества СР, отличается по своей организации, по своим структурным, оперативным и целевым характеристикам от того информационного процесса, который специфичен для эго-системы головного мозга. Разумеется, многие информационные процессы и в головном мозгу и тем более в других подсистемах нашего организма идут «в темноте» (как выражаются некоторые западные философы), не дают о себе знать в виде субъективных проявлений. С чисто функциональной точки зрения добавка в виде явления СР кажется излишней. Но это именно кажимость. На самом деле возникновение в ходе эволюции СР ознаменовало новый этап и новый тип самоорганизации. Здесь возникает ряд вопросов, которые должны стать предметом тщательного анализа.

4.1 Естественный интеллект как факт, обладающий субъективной реальностью с принципом инвариантности

Пока нам известны два вида СР - животный и человеческий. Весьма вероятно, что в других звездных мирах есть существа, обладающие СР совершенно иного типа (предмет для фантазирования, но и для теоретических размышлений). Хотя некоторые выдающиеся ученые и философы (Дж. Экклз, К. Поппер и др.) отрицали возможность создания таких систем ИИ, которые способны обладать СР, такая возможность теоретически обоснована (тем более в отношении различных симбиозов ИИ с ЕИ). Это вытекает из принципов функционализма (которые, возможно, сохраняют рациональный смысл, могут служить не только редукционистским целям, но и нередукционистским объяснениям СР). Функциональное описание и объяснение логически независимо от физического описания и объяснения, что, как известно, убедительно было показано Тьюрингом, Патнэмом и др. Это обязывает принять тезис об изофункционализме систем, развитый А. Тьюрингом (один и тот же набор функций может быть воспроизведен системами, различными по своим субстратным, физическим свойствам). Для обоснования тезисов об изофункционализме систем и о возможности обретения искусственным интеллектом качества СР важное теоретическое значение имеет принцип инвариантности информации по отношению к физическим свойствам ее носителя. Из него следует возможность возникновения различных вариантов кодовой самоорганизации. Тот вариант, который возник в ходе эволюции был не единственно возможным. Разумеется, ПИ не означает безразличия физических свойств носителя информации, но лишь то, что одна и та же информация может иметь носители с разными физическими свойствами. В ходе эволюции отбирались коды наиболее экономичные в энергетическом отношении, наиболее компактные по своей организации и т.п. (так сформировались фундаментальные коды земных самоорганизующихся систем - код ДНК, частотно-импульсный код в нервной системе, язык). Да, теоретически, были возможны иные варианты, но в доступном нам мире существует лишь тот вариант самоорганизующейся системы, наделенной СР, который был изобретен, создан биологической эволюцией. И он так или иначе указывает пути сближения ИИ с ЕИ.

4.2 Субъективная реальность как способ управления

Вопрос о возникновении СР - это, прежде всего вопрос о способе представленности информации для сложной самоорганизующейся системы и способе использования ее для управления своим целостным функционированием (поведением). Этот новый способ представленности информации и оперирования ею в целях управления возник в связи с чрезвычайным усложнением живой системы (включающей множество самоорганизующихся подсистем) и потребностью нахождения оптимальных средств поддержания ее целостности, централизации самоотображения и управления (как условия реализации адекватного поведения и, в конечном итоге, выживания). В силу множества уровней и структур самоорганизации в развитом организме (клетки, органы, системы дыхания, кровообращения и др.) эволюция постоянно решала проблему соотношения иерархических, кооперативных и конкурентных контуров управления в структуре целостного организма, соотношения централизации и относительной автономности в функционировании его подсистем. Возникновение психики, способности отображения и управления в форме СР явилось ответом на эти проблемы. Представленность информационных процессов в форме явлений СР - чрезвычайно удобный, экономичный, высоко оперативный способ получения, переработки и использования информации в целях эффективного управления многосложным организмом, централизации его действий, которая (централизация) интегрирует нижележащие уровни управления (в клетках, органах и т.п.), сохраняя их определенную автономию. Представленность информации в форме СР позволила резко расширить не только «содержательный» («когнитивный») диапазон информации, но в еще большей степени ее ценностные измерения - посредством различных эмоциональных состояний, таких мощных субъективных регуляторов и стимуляторов поведения как боль, оргазм, чувство голода. У высших животных СР достигает значительной степени индивидуализации и разнообразия психических модальностей.

4.3 Мысль как явление работы субъективной реальности

В процессе антропогенеза произошло качественное развитие психического отображения и управления - возникло сознание, отличительная черта которого в том, что СР сама становится объектом отображения и управления в форме СР. Другими словами, создается возможность по существу неограниченного производства информации об информации и способность наряду с информационным управлением телесными изменениями так же и управления информационными процессами на уровне СР. Для этого формируется специальная кодовая система - язык. Развивается способность абстрагирования, возникает высокая степень свободы оперирования информацией в «чистом» виде - типа мысленных действий, предваряющих реальные действия, мысленного моделирования вероятных ситуаций, прогнозирования, проектирования, фантазирования, творческих решений, самополагания и волеизъявления. Все эти функции ЕИ заведомо отсутствуют у компьютера.

4.4 Логическая работа мозга

Феноменологические характеристики ЕИ, посредством которых обычно указывают на качественное отличие ЕИ от ИИ, выражают существенные структурно-функциональные особенности информационных процессов в головном мозге. Как свидетельствуют данные нейроморфологии и нейрофизиологии, в головном мозге переработка информации совершается одновременно, параллельно во многих различных по своим функциям структурах, результаты которой анализируются и выборочно интегрируются в зависимости от актуализованной цели, от хода решения задачи. Переработка информации в головном мозгу, выражающая текущую мыслительную деятельность, совершается отнюдь не по жесткой двоичной логической схеме. Скорее эта логика представляет собой многозначную логику, в которой число значений истинности есть величина переменная; при этом число значений истинности меняется в зависимости от характера решаемой задачи и, возможно, от разных этапов ее решения. В этой многомерной динамической структуре двоичная логическая схема лишь один из существенных моментов процесса переработки информации. Головному мозгу присущи развитые функции вероятностного прогнозирования, весьма оригинальные, эффективные способы сжатия информации и выборки нужных элементов из памяти, эвристического синтеза и другие операции, которые вряд ли допустимо приписывать современным компьютерам.

4.5 Количество и качество

Сказанное, конечно, не умаляет роли и возможностей ИИ. Выдающиеся достижения компьютерных наук и информационных технологий положили начало новому этапу цивилизации - информационному обществу. Проблемы дальнейшего развития ИИ будут в существенной мере определять судьбы человечества. Но это обязывает нас к тщательному анализу и реалистическим оценкам широковещательных проектов. Среди ряда ведущих специалистов в области ИИ бытует убеждение, что быстро нарастающая вычислительная мощь компьютеров скоро приведет к появлению у них сознания (проф. А. Болонкин и др.). К сожалению, это вовсе не тот случай, когда огромное количественное накопление приводит к новому качеству. Существенное сближение ИИ с ЕИ предполагает более глубокое исследование ЕИ. На прошедшей недавно конференции по философии ИИ многие докладчики справедливо подчеркивали, что наиболее узким местом компьютерного моделирования является недостаточная исследованность ЕИ. Наиболее основательно и многопланово это было выражено в докладе А.П. Огурцова «Достижения и трудности моделирования интеллектуальных актов». В нем убедительно показано, что «перспективы компьютерного моделирования и нейрокомпьютеринга - это перспективы философии и психологии сознания. Именно ими будет создан новый язык анализа сознания, в том числе интеллекта, который найдет свою амплификацию в компьютерных моделях» [«Философия искусственного интеллекта». М.,2005, с. 59]. С этим нельзя не согласиться. А.П. Огурцов справедливо утверждает: «Все компьютерные модели далеки от биологической основы работы интеллекта» [там же, с. 57]. В этой связи важно использовать такой источник развития ИИ как современные нейрофизиологические исследования психической деятельности. В последнее время достигнуты существенные результаты в изучении тех мозговых процессов, которые лежат в основе субъективных переживаний, обусловливают возникновение ряда явлений СР, в том числе относящихся к процессу мышления. Здесь, прежде всего, должны быть отмечены исследования А.. М. Иваницкого и ряда других авторов, получивших близкие результаты (Дж. Эделмен, В.Я. Сергин и др.). Эти работы преследуют стратегическую цель: выяснение существенных и необходимых свойств того типа самоорганизации, который создает представленность для системы информации в форме СР и способность оперировать ею (в «чистом» виде), что имеет первостепенное значение для создания новых направлений разработки ИИ.

ЗАКЛЮЧЕНИЕ

На основание изложенного материала можно сделать вывод:

1. Мозг является гораздо более сложной и уникальной структурой и дешифровкой его «кода» следует заниматься еще до создания концепции искусственного интеллекта;

2. Мыслительный процесс имеет место в работе организма индивида и имеет возможность ограниченно управлять некоторыми его возможностями, что в свою очередь будет необходимо интегрировать в концепцию искусственного интеллекта;

3. Чтобы искусственный интеллект был сопоставим с естественным необходимо наделить его явлением субъективной реальности, что может повлиять на развитие этой области, как в положительном, так и в отрицательном направлении.

4. Наращивание компьютерной мощности не приведет к образованию системы искусственного интеллекта, т.к. отсутствуют необходимые условия зарождения СР и сознания. Также текущая модель двоичного представления логики искусственного интеллекта слишком проста, т.к. естественный интеллект обладает многосложной логикой.

СПИСОК ИСПОЛЬЗОВАННОЙ ЛИТЕРАТУРЫ:

1. http://www.sciteclibrary.ru/rus/catalog/pages/8895.html

2. http://www.transhumanism-russia.ru/content/view/370/144

Размещено на Allbest.ru