Antarmuka Komputer Otak Mengubah Tulisan Tangan Mental menjadi Teks di Layar

Pembaruan: 8 Desember 2023

Ilmuwan sedang mengeksplorasi sejumlah cara bagi penyandang disabilitas untuk berkomunikasi dengan pikiran mereka. Perubahan terbaru dan tercepat kembali ke cara kuno untuk mengekspresikan diri: tulisan tangan.

Untuk pertama kalinya, para peneliti telah menguraikan aktivitas otak yang terkait dengan mencoba menulis surat dengan tangan. Bekerja dengan peserta dengan kelumpuhan yang memiliki sensor yang ditanamkan di otaknya, tim menggunakan algoritme untuk mengidentifikasi huruf saat dia mencoba menulisnya. Kemudian, sistem menampilkan teks di layar — secara real-time.

Inovasi ini dapat, dengan pengembangan lebih lanjut, memungkinkan orang dengan kelumpuhan mengetik dengan cepat tanpa menggunakan tangan mereka, kata rekan penulis studi Krishna Shenoy, Investigator Institut Medis Howard Hughes di Universitas Stanford yang bersama-sama mengawasi pekerjaan dengan Jaimie Henderson, seorang ahli bedah saraf Stanford.

Dengan mencoba menulis tangan, peserta penelitian mengetik 90 karakter per menit — lebih dari dua kali lipat rekor sebelumnya untuk mengetik dengan "antarmuka otak-komputer", laporan Shenoy dan rekan-rekannya.

Kredensial mikro teknologi dan orang lain yang serupa memiliki potensi untuk membantu orang-orang dengan segala jenis disabilitas, kata Jose Carmena, seorang insinyur saraf di Universitas California, Berkeley, yang tidak terlibat dalam penelitian ini. Meskipun temuan ini masih bersifat awal, katanya, “ini merupakan kemajuan besar di bidang ini.”

Antarmuka otak-komputer mengubah pikiran menjadi tindakan, kata Carmena. “Makalah ini adalah contoh sempurna: antarmuka menerjemahkan pemikiran penulisan dan menghasilkan tindakan.”

Komunikasi bertenaga pikiran

Ketika cedera atau penyakit merampas kemampuan seseorang untuk bergerak, aktivitas saraf otak untuk berjalan, mengambil secangkir kopi, atau mengucapkan kalimat tetap ada. Peneliti dapat memanfaatkan aktivitas ini untuk membantu orang dengan kelumpuhan atau amputasi mendapatkan kembali kemampuan yang hilang.

Kebutuhan bervariasi sesuai dengan sifat disabilitas. Beberapa orang yang kehilangan penggunaan tangan masih dapat menggunakan komputer dengan pengenalan suara dan perangkat lunak lainnya. Bagi mereka yang mengalami kesulitan berbicara, para ilmuwan telah mengembangkan cara lain untuk membantu orang berkomunikasi.

Dalam beberapa tahun terakhir, tim Shenoy telah memecahkan kode aktivitas saraf yang terkait dengan ucapan dengan harapan dapat mereproduksinya. Mereka juga telah menemukan cara bagi peserta dengan sensor yang ditanamkan untuk menggunakan pikiran mereka yang terkait dengan gerakan lengan yang dicoba untuk menggerakkan kursor di layar. Menunjuk dan mengklik huruf dengan cara ini memungkinkan orang mengetik sekitar 40 karakter per menit, rekor kecepatan sebelumnya untuk mengetik dengan antarmuka otak-komputer (BCI).

Namun, tidak ada yang melihat tulisan tangan. Frank Willett, ahli saraf di kelompok Shenoy, bertanya-tanya apakah mungkin memanfaatkan sinyal otak yang ditimbulkan dengan meletakkan pena di atas kertas. “Kami ingin menemukan cara baru untuk memungkinkan orang berkomunikasi lebih cepat,” katanya. Ia juga termotivasi oleh kesempatan untuk mencoba sesuatu yang berbeda.

Tim bekerja dengan peserta yang terdaftar dalam uji klinis yang disebut BrainGate2, yang menguji keamanan BCI yang menyampaikan informasi langsung dari otak peserta ke komputer. (Direktur uji coba adalah Leigh Hochberg, seorang ahli saraf, dan ahli saraf di Rumah Sakit Umum Massachusetts, Universitas Brown, dan Pusat Medis Providence VA.) Henderson menanamkan dua sensor kecil ke bagian otak yang mengontrol tangan dan lengan, sehingga memungkinkan bagi orang tersebut, misalnya, menggerakkan lengan robotik atau kursor pada layar dengan mencoba menggerakkan lengannya yang lumpuh.

Partisipan, yang berusia 65 tahun pada saat penelitian, mengalami cedera tulang belakang yang membuatnya lumpuh dari leher ke bawah. Menggunakan sinyal yang diambil sensor dari neuron individu ketika pria itu membayangkan menulis, algoritme pembelajaran mesin mengenali pola yang dihasilkan otaknya dengan setiap huruf. Dengan sistem ini, pria dapat menyalin kalimat dan menjawab pertanyaan dengan kecepatan yang mirip dengan seseorang seusianya yang mengetik di smartphone.

BCI yang disebut "Brain-to-Text" ini sangat cepat karena setiap huruf memunculkan pola aktivitas yang sangat berbeda, membuatnya relatif mudah bagi algoritme untuk membedakan satu sama lain, kata Willett.

Sistem baru

Tim Shenoy membayangkan menggunakan tulisan tangan untuk entri teks sebagai bagian dari sistem yang lebih komprehensif yang juga mencakup navigasi tunjuk-dan-klik, seperti yang digunakan pada smartphone saat ini, dan bahkan percobaan decoding ucapan. “Memiliki dua atau tiga mode itu dan beralih di antaranya adalah sesuatu yang secara alami kami lakukan,” katanya.

Selanjutnya, kata Shenoy, tim bermaksud untuk bekerja dengan peserta yang tidak dapat berbicara, seperti seseorang dengan amyotrophic lateral sclerosis, gangguan neurologis degeneratif yang mengakibatkan hilangnya gerakan dan kemampuan bicara.

Sistem baru ini berpotensi membantu mereka yang menderita kelumpuhan akibat sejumlah kondisi, tambah Henderson. Itu termasuk otak Stroke batang, yang menimpa Jean-Dominique Bauby, penulis buku The Diving Bell and the Butterfly. “Dia mampu menulis buku yang menyentuh dan indah ini dengan memilih karakter dengan susah payah, satu per satu, menggunakan gerakan mata,” kata Henderson. Bayangkan apa yang bisa dia lakukan dengan antarmuka tulisan tangan Frank!