Parallel/Grid Computing

Parallel Computing is the discipline behind clustering and grid-computing, which allows computationally intensive applications to scale with real world requirements.

Publications

Members of the Approximity team contributed to the following publications:

• Fast, portable, predictable and scalable bootstrapping
  Armin Roehrl
  Computer Science and Statistics: Proceedings of the Conference on the Interface, May 1998
  Bulk Synchronous Parallel (BSP) computing is a rather new approach to parallel computing. In this paper we use BSP to introduce a portable, parallel, predictable and linear scalable implementation of the bootstrap. We prove optimality in scalability and asymptotic optimality in speed. Two real life examples and benchmarks underline our claims and show the possibilities that this approach offers: e.g. finding the optimal block length when bootstrapping time serious and bootstrapping massively large Labour Force Survey data.
• Parallel Processing in Statistical Computation: BSP, FPGAs and MPI for the S-language
  Armin Roehrl
  Ph.D. thesis at the Swiss Federal Institute of Technoloy, 2000
  We examine how new computer-intensive methods can be tackled under tight time constraints, using parallel computing to cope with the problems of collection and analysis of data that have exploded with the rise of computers and the Internet. Our solutions to these challenges scale from single-processor machines to machines distributed anywhere on the Internet.The work described is unique because of its application of theoretical run-time modelling of the statistical algorithms we implemented on parallel platforms, which allows one to choose the most appropriate platform for a given problem. The thesis also contains the first statistical application of Field Programmable Gate Arrays, which are used to design special purpose chips. The following statistical algorithms were parallelised: the bootstrap, perfect sampling, integration and wavelet packets. We developed Paralleligator, a R message-passing library. This allows statisticians to use parallel programming techniques without learning a new programming language.
• High-available failsafe webservers
  Armin Roehrl, Stefan Schmiedl
  PC-Linux 1/2002 (in German)
  Wir benützen das Linux-HA Heartbeat Paket, um aus mehreren eigenständigen Linux-PCs einen hochverfügbaren Linux- Cluster zu machen, in dem sich die Heartbeat-Maschinen gegenseitig beobachten. Bei Versagen eines Hosts wird mittels IP- Übernahme der ausgefallene Rechner sofort durch eine Hot- Standby Maschine ersetzt. In seiner einfachsten Form funktioniert Heartbeat in 2-Node Clustern und unterstützt mehrere Interfaces je Node. Die Reaktionszeit im Sekundenbereich wird allerdings durch eine ziemlich aufwändige Installation und Konfiguration erkauft.
• Im Gleichschritt: Einführung in paralleles Programmieren unter Linux mit MPI und BSP
  Armin Roehrl, Stefan Schmiedl
  Linux-Enterprise 11/2001 (in German)
  Die Idee des parallelen Programmierens ist so alt wie Computer. In seinen Memoiren beschreibt Feynman, wie während des Zweiten Weltkrieges in Los Alamos Berechnungen auf mechanischen Computern durch Parallelisierung beschleunigt wurden. In die Abgründe des parallelen Programmierens stürzt man eigentlich aus den zwei Gründen: Um Berechnungen schneller ausführen zu können, als es auf einer Maschine möglich ist, oder für Berechnungen, die man aus Speichergründen nicht auf einer einzelnen Maschine berechnen kann.

Parallel computing specialist

• Dr. Armin Roehrl