Эндрю Блэйк – директор Samsung AI Center в Кэмбридже: Встроенный искусственный интеллект требует междисциплинарного подхода

В последнее время искусственный интеллект (AI) стал одной из самых обсуждаемых тем в контексте влияния как на отрасль, так и на общество. Особенно острую полемику сегодня вызывают вопросы этики и сохранения данных при работе с AI. Точки зрения полярно расходятся в зависимости от того, идёт ли речь о технологии, требующей вычислительных мощностей в облаке, или рассматриваемой в качестве интегрированного AI(1) решения.
О будущем встроенного AI и о том, как инновационные решения на базе этой технологии обогатят жизнь людей, рассказывает основатель Института Алана Тьюринга, а ныне глава Центра искусственного интеллекта Samsung Electronics в Кембридже (Великобритания) доктор Эндрю Блейк.
«Искусственный интеллект – это то, что вдохнёт жизнь в Интернет вещей. Встроенный AI реализует интеллектуальные функции, обрабатывая алгоритмы на самом устройстве, без обязательного подключения к облаку, что безопасно с точки зрения конфиденциальности и защиты личной информации», – говорит доктор Блэйк. – «Одной из ключевых областей применения встроенного AI является сфера здравоохранения и фитнеса – например, трекинг упражнений, питания и психофизических параметров человека. Для того, чтобы интегрировать в эту систему общение и воспоминания (в частности, фото и видео), нужно выйти за пределы академического мира прототипов, работающих на мощных компьютерных системах, и научить AI работать на бытовых устройствах, которые используют люди».
Благодаря своему широкому портфолио устройств, Samsung уникальным образом подготовлен для формирования будущего AI, ориентированного на человека. «Я родился тогда же, когда и искусственный интеллект – в 1956 году, когда на конференции в Дартмуте был создан этот термин. Я изучал концепцию AI в течение 40 лет. Опираясь на этот опыт, и принимая во внимание лидирующие позиции Samsung на рынке самых разнообразных устройств, сейчас самое подходящее время для включения новых аспектов в возможности искусственного интеллекта», – отмечает Блейк. – «Встроенный AI начинается с аппаратного обеспечения, которое позволяет поместить интеллектуальные алгоритмы в карманы и дома каждого. Одной из самых сложных задач, над которой работает AI-Центр Samsung в Кембридже – выход высококачественного встроенного AI за пределы исследовательских лабораторий».
По мнению доктора Блейка, обработка алгоритмов AI на самом устройстве, а не в облаке, даёт значительные преимущества, обеспечивая безопасные и надёжные средства для защиты конфиденциальности пользователей и данных. Что особенно важно в условиях демократизации технологии и её применения для решения потребностей человека.
«Ориентированный на потребности человека AI требует междисциплинарного подхода. Меня не очень радует перспектива будущего, разработанного исключительно инженерами. Для создания технологии будущего, которая действительно поможет людям жить лучше, нам необходимо уделять особое внимание дизайну аппаратных средств, пользовательских интерфейсов и, прежде всего, проектированию систем на базе гуманитарных наук, таких, например, как психология» – говорит Эндрю Блейк.
С помощью такого междисциплинарного подхода специалисты AI-Центра в Кембридже стремятся лучше понять поведение человека, исследуя такие области, как передача эмоций(2).
В британском AI-Центре Samsung работает команда экспертов в различных дисциплинах. Среди них специалисты мирового уровня по невербальному поведению человека и встроенному AI, а также немало высококлассных учёных в области машинного обучения, компьютерного зрения, когнитивных технологий. Кембриджский университет – один из самых сильных в мире, что сочетается с уникальной культурой исследовательских учреждений и целым комплексом стартапов в сферах робототехники, медицины, искусственного интеллекта, автономного вождения и многих других.

1 AI, который обрабатывает информацию на самом устройстве, а не отправляет её в облако. Поскольку AI на устройстве не зависит от внешних сетей, он считается более безопасным и надежным, чем AI на базе облачных решений
2 https://internetofbusiness.com/samsung-uk-to-open-new-ai-centre/

[Hearing from an Samsung AI Expert] On-device AI Breathes Life into IoT

As technology has evolved, it has changed our lives dramatically. It’s truly startling to think just how different life was before the invention of innovations like smartphones, the internet and PCs.
Recently, AI has emerged as a hot topic in this regard based on its potential impact both on technology and on society. Especially with on-device AI1, AI will be embedded in devices that we use in everyday lives without necessarily connecting to processors in the cloud. To learn more about this exciting subject, Samsung Newsroom met with the head of the Samsung AI Center Cambridge, Dr. Andrew Blake.
Dr. Blake was formerly the Director of both the Alan Turing Institute (which he also helped found) and, before that, Microsoft’s Cambridge Research Laboratory. As a pioneer in the development of the theory and algorithms that make it possible for computers to behave as seeing machines, he explained how Samsung’s AI and hardware innovations will enrich people’s lives in fundamental ways.

Taking IoT to the Next Level

“AI is what is going to breathe life into IoT,” begins Blake.
On-device AI realizes AI functions by processing AI algorithms on the device itself, without necessarily connecting to the cloud, and that is advantageous for privacy and personal information protection, as well as for security.
Unlocking AI-powered smart devices’ true potential will require a combination of two factors: seamlessly connected hardware and an approach to AI that is human-centric above all else.
“One key area is health and fitness – for example, linking exercise, food and mental wellbeing. Another is communication and memories – especially via photography and video. For that, we have to move past the academic world of prototypes working on high-powered computer systems, and get AI working in a leaner fashion – on the everyday devices that people are using.”

The Right Tools

As Blake notes, Samsung’s wide-ranging device portfolio makes it uniquely qualified to deliver this human-centric future for AI.
“This is a great time to be adding new dimensions to Samsung’s AI capabilities, given the company’s leading market position in devices of all sorts,” says Blake. “On-device AI begins with hardware, and this is why working for Samsung is such a fabulous opportunity for AI researchers.”
“Hardware is the channel that moves us beyond simply smart algorithms, to put those algorithms in everyone’s pockets and homes. The big challenge that Cambridge is addressing is moving high-quality embedded AI beyond specialists’ research labs, where people with PhDs in machine learning and in systems work for several months to implement a new embedded system. We envisage a world where advanced tools enable the world’s software developers to move their AI models, simply and effectively, onto Samsung devices, and we are working hard on those tools.”
As Blake explains, on-device AI, in which AI algorithms are processed on a device itself, rather than sent to the cloud, offers significant advantages here by providing a safe and reliable means to protect users’ privacy and data. “We also need to do that in a way that holds the data close, to reassure people that their data is being held safely and privately,” he added.

A Multi-Disciplinary Approach

When it comes to AI, what exactly does the Cambridge AI center want to bring to consumers? The answer to that question is what Samsung has described as a human-centric approach to AI innovation, which Blake describes in further detail.
“Human-centric AI is about homing in on the areas of life that people really care about,” says Blake. “I believe this will require a multi-disciplinary approach. I am not so excited about a future designed solely by engineers. Instead, we need to collaborate with other disciplines, especially design – hardware, user interfaces, and above all, system design – and with human disciplines such as psychology, to achieve a technological future that really helps people live better.”
Taking this multi-disciplinary approach, the Cambridge AI center endeavors to better understand human behavior by exploring areas like communication of emotion, and further expand the boundaries of user-centric communication.2

Drawing from a Diverse Team

Samsung AI Center Cambridge employs a team of experts of various disciplines, and emphasizes collaboration between them.
“We work together a lot as a team,” says Blake. “Our two Program Directors, Maja Pantic and Nic Lane, are world-experts in non-verbal human behavior and in embedded AI, respectively. We also have quite a few senior specialists in machine learning, in machine vision, in networks and devices, and in computing and cognition. We now have a team of very talented people, and new ideas are flowing freely!” says Blake.
As Blake notes, what makes the Cambridge AI center unique is not just its team’s wide-ranging expertise, but its location as well.
“Cambridge is a very special place,” begins Blake. “The university is one of the strongest in the world in research, and that is coupled with an extraordinary culture of research ventures, and a whole constellation of startups in robotics, medicine, AI, self-driving, and many other areas.”
“Being in this environment is important to us for several reasons. It is a stimulating ecosystem and an extraordinary network; it is a rich source of expert talent; it is well connected to the ‘Golden Triangle’ with London and Oxford.”
Of course, in addition to taking full advantage of the benefits that come with its location, the Cambridge center draws strength from its connections to other AI centers in Samsung Research’s global network.
“I am especially pleased to be connected with Samsung’s other AI centers around the world, where I know some of their internationally renowned scientists well,” says Blake. “I believe that, as we begin to work together, we can bring something special to consumers.”
Having more than 40 years of experience working in the field of AI, Blake added, “I was born in the same year as AI – 1956 – the year the Dartmouth conference famously coined the term AI – and I have been studying AI vision for 40 years. I have been lucky to have such an extraordinary career.”

1 AI that processes information on a device itself, rather than sending that information to the cloud. Because on-device AI does not rely on outside networks, it is regarded as safer and more reliable than cloud-based AI.
2 https://internetofbusiness.com/samsung-uk-to-open-new-ai-centre/

Новая система искусственного интеллекта в мобильных устройствах Samsung сможет обойтись без обращений к облачным сервисам. Эффективность работы нейросетевого процессора (NPU) повышена в 8 раз по сравнению с аналогами.

Алгоритмы глубокого обучения являются ключевым элементом искусственного интеллекта (AI), поскольку они представляют собой процессы, с помощью которых компьютер способен мыслить и учиться, как это делает человек.
NPU - это нейронный процессор, оптимизированный для вычислений алгоритма глубокого обучения, разработанный для эффективной обработки тысяч подобных вычислений одновременно.
В прошлом месяце Samsung Electronics объявил о своей цели - укрепить лидерство в мировой индустрии полупроводниковых систем к 2030 году путём расширения своих собственных разработок технологии NPU. Недавно южнокорейский техногигант представил свои открытия в этой области на конференции по компьютерному зрению и распознаванию образов (CVPR), одной из ведущих научных конференций такого профиля.
Сотрудники передового технологического института Samsung (Samsung Advanced Institute of Technology или сокращённо SAIT), специализирующееся на разработке, тестировании и производстве новых чипов, сообщили, что им удалось добиться прорыва в алгоритме работы искусственного интеллекта. За счёт множества нововведений чипы Samsung будут в 8 раз производительнее, чем ныне существующие 32-разрядные серверные нейросетевые процессоры (NPU).
Разработка южнокорейского электронного гиагнта весьма многообещающа. Новый NPU назвали Quantification1 Interval Learning (QIL). Он преобразует данные в группы из менее 4 бит, сохраняя при этом точность их распознавания. Все вычисления происходят непосредственно внутри устройства без необходимости их отправки в облако. Технология занимает в 4 раза меньше памяти и работает в 8 раз быстрее предшественников.
QIL позволяет сократить необходимое количество вычислений и, соответственно, уменьшить число транзисторов в 120 раз. Метод обработки алгоритма глубокого обучения здесь гораздо быстрее и энергоэффективнее, чем в уже существующих решениях. В то же время оптимизация вычислений и упрощение чипов позволят в разы ускорить функции вроде разблокировки посредством сканера отпечатков пальцев.
Кроме того, отказ от облачных вычисление и наличие AI в устройстве обеспечат максимальную стабильность обработки данных. Например, в системах автопилотирования любая задержка обработки при отправке данных в облако может иметь трагические последствия. Но решение инженеров Samsung позволяет  устранить такую проблему.
Многие ведущие производители электроники уже обратили внимание на эту разработку Samsung, что в обозримой перспективе должно принести корпорации дополнительную прибыль, поскольку техногигант собирается использовать такое решение не только в своих устройствах, но и продавать новые NPU сторонним заказчикам.

Samsung Electronics Introduces A High-Speed, Low-Power NPU Solution for AI Deep Learning

Deep learning algorithms are a core element of artificial intelligence (AI) as they are the processes by which a computer is able to think and learn like a human being does. A Neural Processing Unit (NPU) is a processor that is optimized for deep learning algorithm computation, designed to efficiently process thousands of these computations simultaneously.
Samsung Electronics last month announced its goal to strengthen its leadership in the global system semiconductor industry by 2030 through expanding its proprietary NPU technology development. The company recently delivered an update to this goal at the conference on Computer Vision and Pattern Recognition (CVPR), one of the top academic conferences in computer vision fields.
This update is the company’s development of its On-Device AI lightweight algorithm, introduced at CVPR with a paper titled “Learning to Quantize Deep Networks by Optimizing Quantization Intervals With Task Loss”. On-Device AI technologies directly compute and process data from within the device itself. Over 4 times lighter and 8 times faster than existing algorithms, Samsung’s latest algorithm solution is dramatically improved from previous solutions and has been evaluated to be key to solving potential issues for low-power, high-speed computations.

Streamlining the Deep Learning Process

Samsung Advanced Institute of Technology (SAIT) has announced that they have successfully developed On-Device AI lightweight technology that performs computations 8 times faster than the existing 32-bit deep learning data for servers. By adjusting the data into groups of under 4 bits while maintaining accurate data recognition, this method of deep learning algorithm processing is simultaneously much faster and much more energy efficient than existing solutions.
Samsung’s new On-Device AI processing technology determines the intervals of the significant data that influence overall deep learning performance through ‘learning’. This ‘Quantization1 Interval Learning (QIL)’ retains data accuracy by re-organizing the data to be presented in bits smaller than their existing size. SAIT ran experiments that successfully demonstrated how the quantization of an in-server deep learning algorithm in 32 bit intervals provided higher accuracy than other existing solutions when computed into levels of less than 4 bits.
When the data of a deep learning computation is presented in bit groups lower than 4 bits, computations of ‘and’ and ‘or’ are allowed, on top of the simpler arithmetic calculations of addition and multiplication. This means that the computation results using the QIL process can achieve the same results as existing processes can while using 1/40 to 1/120 fewer transistors2.
As this system therefore requires less hardware and less electricity, it can be mounted directly in-device at the place where the data for an image or fingerprint sensor is being obtained, ahead of transmitting the processed data on to the necessary end points.

The Future of AI Processing and Deep Learning

This technology will help develop Samsung’s system semiconductor capacity as well as strengthening one of the core technologies of the AI era – On-Device AI processing. Differing from AI services that use cloud servers, On-Device AI technologies directly compute data all from within the device itself.
On-Device AI technology can reduce the cost of cloud construction for AI operations since it operates on its own and provides quick and stable performance for use cases such as virtual reality and autonomous driving. Furthermore, On-Device AI technology can save personal biometric information used for device authentication, such as fingerprint, iris and face scans, onto mobile devices safely.
“Ultimately, in the future we will live in a world where all devices and sensor-based technologies are powered by AI,” noted Chang-Kyu Choi, Vice President and head of Computer Vision Lab of SAIT. “Samsung’s On-Device AI technologies are lower-power, higher-speed solutions for deep learning that will pave the way to this future. They are set to expand the memory, processor and sensor market, as well as other next-generation system semiconductor markets.”
A core feature of On-Device AI technology is its ability to compute large amounts of data at a high speed without consuming excessive amounts of electricity. Samsung’s first solution to this end was the Exynos 9 (9820), introduced last year, which featured a proprietary Samsung NPU inside the mobile System on Chip (SoC). This product allows mobile devices to perform AI computations independent of any external cloud server.
Many companies are turning their attention to On-Device AI technology. Samsung Electronics plans to enhance and extend its AI technology leadership by applying this algorithm not only to mobile SoC, but also to memory and sensor solutions in the near future.

1 Quantization is the process of decreasing the number of bits in data by binning the given data into sections of limited number levels, which can be represented in certain bit values and are regarded as having the same value per section
2 Transistors are devices that control the flow of current or voltage in a semiconductor by acting as amplifiers or switches