Enstitümüz Öğretim Üyelerinden Behçet Uğur Töreyin'in ve araştırma görevlilerinden Reyhan Kevser Keser'in yazarları olduğu, 'Averager Student: Distillation from Undistillable Teacher' başlıklı makale 'ICL 2023 Tiny Papers' başlıklı dergide 29 Mayıs 2023 tarihinde (son versiyonu) yayınlanmıştır.

DOI:bulunamadı
İkame linkler: https://openreview.net/forum?id=4isz71_aZN , https://github.com/rkevser/AveragerStudent

Özet: Today, some companies release their black-box model as a service for users, where users can see the model’s output corresponding to their input. However, these models can be stolen via knowledge distillation by malicious users. Recently, undistillable teacher (Ma et al., 2021) is introduced in order to prevent the knowledge leakage. In this study, with the aim of contributing to solutions for model intellectual property (IP) protection, we propose a novel method which improves the distillation from an undistillable teacher whose goal is make the distillation difficult for students, with the purpose of model protection. The codes are released at https://github.com/rkevser/AveragerStudent.

İTÜ Bilişim Enstitüsü

bilisim-anasayfa-hakkimizda

İTÜ Bilişim Enstitüsü, Bilişim Uygulamaları, Bilgisayar Bilimleri, Hesaplamalı Bilim ve Mühendislik ile İletişim Sistemleri Anabilim Dallarında aşağıda yer alan programlarda lisansüstü düzeyde eğitimler veren, bu alanlarda temel ve uygulamalı araştırmalar yapan bir birimdir.

Enstitü öğretim üyeleri ile öğrencileri, elektromanyetik alanlar, haberleşme sistemleri/regülasyonları, hesaplamalı malzeme tasarımı, hesaplamalı kimya/biyoloji, kriptografi, işaret/veri işleme/görselleştirme, büyük veri yönetimi, iklim ve okyanus bilimleri, termodinamik modelleme, haberleşme ağları ve moleküler enformatik alanlarında ulusal ve uluslar arası kuruluşlarca desteklenen araştırmalar yürütmektedir.

Enstitü öğretim üyeleri ve öğrencileri tarafından alınan ödüllerden bazıları:

  • HBM Programı’ndan araştırma görevlileri Hacer Duzman ve E. Cenk Ersan ile Prof. Dr. M. Serdar Çelebi tarafından ortaklaşa hazırlanan “Non-Invasive Complete Hemodynamic Model to Investigate the Effect of Multi-Stenosis in Patient-Specific Coronary Arteries” başlıklı çalışma, ESM’25 kapsamında En İyi Bildiri Ödülü'ne layık görülmüştür. (22-24 Ekim - Belçika)
  • HBM Doktora Programı öğrencilerimiz Hacer Duzman ve Muhammed Enis Şen, "Başarım 2024 8. Ulusal Yüksek Başarımlı Hesaplama Konferansı"nda düzenlenen "5 Dakikalık Tez Yarışması"nda ödül aldılar. 

Enstitü bünyesinde, Devlet Planlama Teşkilatı desteğiyle kurulan bir Yüksek Başarımlı Hesaplama Laboratuvarı da bulunmaktadır.